Amazon đưa cảnh báo về ChatGPT sau khi nhân viên dùng chatbot để viết code, năng suất tăng gấp 10 lần

Tháng trước, một kênh Slack (làm việc nhóm) nội bộ tại Amazon tràn ngập các câu hỏi của nhân viên về ChatGPT - công cụ trí tuệ nhân tạo đã gây bão trong giới công nghệ kể từ khi phát hành vào cuối tháng 11/2022.

Một số người hỏi liệu Amazon có hướng dẫn chính thức về cách sử dụng ChatGPT trên các thiết bị làm việc hay không. Những người khác thắc mắc liệu họ có được phép sử dụng công cụ AI cho công việc hay không. Một người đã thúc giục đơn vị đám mây Amazon Web Services công bố quan điểm của mình về "việc sử dụng hợp lý các công cụ AI tổng quát", như ChatGPT.

Ngay sau đó, một luật sư của Amazon đã lên tiếng. Bà đã cảnh báo các nhân viên không được cung cấp cho ChatGPT "bất kỳ thông tin bí mật nào của Amazon (bao gồm cả mã làm việc tại Amazon)”.

Vị luật sư, đồng thời là cố vấn cao cấp tại Amazon đã yêu cầu nhân viên tuân theo các chính sách bảo mật và xung đột lợi ích hiện có vì đã có "trường hợp" phản hồi ChatGPT giống với dữ liệu nội bộ của Amazon.

"Điều này rất quan trọng vì những gì người dùng nhập lên có thể được sử dụng làm dữ liệu huấn luyện cho một lần lặp lại ChatGPT tiếp theo và chúng tôi không muốn đầu ra của nó bao gồm hoặc giống với những thông tin được lưu hành nội bộ”, luật sư viết.

ChatGPT là một công cụ chat AI có thể trả lời các câu hỏi của người dùng một cách thông minh và rõ ràng. Sự phát triển nhanh chóng của phần mềm này có khả năng thay đổi một số ngành như truyền thông, học thuật, y học,… Điều này dẫn đến những hoài nghi trong việc sử dụng chatbot và hậu quả của nó.

Câu hỏi về việc chia sẻ thông tin bí mật của doanh nghiệp cho ChatGPT và OpenAI - startup tạo ra công cụ này, trở thành vấn đề hóc búa trong tương lai. Điều này đặc biệt quan trọng với Amazon bởi công ty đối thủ Microsoft đã đầu tư rất nhiều vào OpenAI, bao gồm cả khoản đầu tư mới nhất trị giá 10 tỷ USD.

“Sẽ rất khó để buộc OpenAI minh bạch về cách họ sử dụng dữ liệu đầu vào để đào tạo ChatGPT. Tôi cho rằng sau một thời gian sử dụng ChatGPT, các tập đoàn sẽ tự hỏi liệu OpenAI có thể âm thầm trích xuất dữ liệu công ty của họ hay không”, Emily Bender - giảng viên về ngôn ngữ học máy tính tại Đại học Washington, đặt vấn đề.

Người phát ngôn của Amazon đã không trả lời yêu cầu bình luận. Trong khi đại diện OpenAI cho biết nếu có bất kỳ câu hỏi nào liên quan đến dữ liệu và chính sách quyền riêng tư của ChatGPT người dùng có thể vào mục “Câu hỏi thường gặp của ChatGPT” để tìm hiểu. 

Nhân viên Amazon dùng ChatGPT làm “trợ lý viết code”

Amazon đã đưa ra một số biện pháp bảo vệ nội bộ trước ChatGPT. Chẳng hạn khi nhân viên sử dụng thiết bị làm việc để truy cập trang web ChatGPT, một thông báo cảnh báo sẽ bật lên cho biết họ sắp truy cập dịch vụ của bên thứ ba mà "có thể không được Amazon Security chấp thuận sử dụng".

Các nhân viên Amazon nói rằng họ có thể bỏ qua thông báo đó bằng cách nhấp vào tab "Xác nhận". Nhân viên phỏng đoán cửa sổ bật lên cảnh báo ở đó để ngăn nhân viên chia sẻ thông tin bí mật vào ChatGPT, đặc biệt là vì họ chưa thấy chính sách nào của công ty về việc sử dụng nội bộ.

Tuy nhiên, một số nhân viên Amazon đã sử dụng công cụ AI như một "trợ lý mã hóa" phần mềm bằng cách yêu cầu nó cải thiện các dòng mã (Code) bên trong. ”Tôi nghĩ sẽ thật tuyệt vời nếu có thể sử dụng nó ngay bây giờ," một người viết trên Slack. “Vừa sợ vừa thích thú”.

Một nhân viên khác cho biết anh ấy đã chia sẻ với ChatGPT một số câu hỏi phỏng vấn của Amazon cho vị trí viết mã nguồn mở. Theo bài đăng của nhân viên này trên Slack, ChatGPT đã đưa ra giải pháp chính xác cho một số câu hỏi kỹ thuật này. 

Nhìn chung, các nhân viên của Amazon rất hào hứng với tiềm năng của ChatGPT và tự hỏi liệu Amazon có đang phát triển một sản phẩm cạnh tranh hay không. Luật sư của công ty đã cảnh báo nhân viên về việc sử dụng ChatGPT cho biết Amazon đang phát triển rộng rãi "công nghệ tương tự”, trong đó bao gồm trích dẫn trợ lý giọng nói Alexa và dịch vụ đề xuất mã CodeWhisperer. 

Theo Bender từ Đại học Washington, việc sử dụng ChatGPT ngày càng tăng tại nơi làm việc đặt ra những câu hỏi nghiêm túc về cách OpenAI dự định sử dụng các dữ liệu được người dùng chia sẻ.

Điều khoản dịch vụ của OpenAI yêu cầu người dùng đồng ý rằng công ty có thể sử dụng tất cả các dữ kiện đầu vào và đầu ra do người dùng và ChatGPT tạo ra. Họ cũng cho biết sẽ xóa tất cả thông tin nhận dạng cá nhân khỏi dữ liệu mà ChatGPT sử dụng.

Giảng viên Bender nhận xét rằng thật khó để biết OpenAI đã xác định và xóa thông tin cá nhân "triệt để" như thế nào, do quy mô phát triển nhanh chóng của ChatGPT - nó đã vượt mốc 1 triệu người dùng trong vòng một tuần kể từ khi ra mắt. 

Tuy nhiên, đối với các nhân viên của Amazon, có lẽ quyền riêng tư dữ liệu dường như không phải là vấn đề đáng quan tâm. Họ cho biết việc sử dụng chatbot tại nơi làm việc đã dẫn đến "năng suất tăng gấp 10 lần" và nhiều người bày tỏ mong muốn tham gia vào các nhóm nội bộ để phát triển các dịch vụ tương tự.