Lá thư khiến Sam Altman bị sa thải
Chỉ vài ngày trước khi Sam Altman bị sa thải, một số nhà nghiên cứu đã viết một lá thư cho hội đồng quản trị của OpenAI, cảnh báo về một phát hiện công nghệ trí tuệ nhân tạo mạnh mẽ mà họ cho rằng có thể đe dọa loài người, tờ Reuters dẫn nguồn tin cho biết.
Theo đó, bức thư này được xem là nguyên nhân khiến nhà đồng sáng lập OpenAI phải rời công ty trong vài ngày trước khi được phục chức.
Các nguồn tin trích dẫn bức thư là một phần trong bản danh sách những chất vấn của hội đồng quản trị với Sam Altman. Hội đồng quản trị tiếp tục bày tỏ lo ngại về việc thương mại hóa vội vàng những tiến bộ của công nghệ trí tuệ nhân tạo trước khi hiểu được hậu quả của nó.
Bức thư này có liên quan đến dự án Q* (Q-Star), được cho là một bước đột phá trong nghiên cứu của OpenAI về thứ được gọi là trí tuệ nhân tạo tổng hợp (AGI). OpenAI định nghĩa AGI là các hệ thống tự trị vượt qua con người trong hầu hết các nhiệm vụ có giá trị kinh tế.
Với nguồn tài nguyên máy tính khổng lồ, mô hình mới có thể giải quyết một số vấn đề toán học nhất định, Reuters dẫn nguồn tin giấu tên.
Mặc dù, công nghệ này hiện chỉ thực hiện toán ở cấp độ học sinh tiểu học, nhưng việc đạt được những bài kiểm tra như vậy khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.
Các nhà nghiên cứu coi toán học là tiền đề của sự phát triển AI sáng tạo. Hiện tại, Generative AI rất giỏi viết và dịch ngôn ngữ bằng cách dự đoán thống kê từ tiếp theo, song công cụ này thường gặp lỗi và đưa ra nhiều câu hỏi không đúng trọng tâm.
Việc chinh phục khả năng làm toán – lĩnh vực chỉ có một câu trả lời đúng, cho thấy rằng AI sẽ có khả năng suy luận tốt hơn giống như trí thông minh của con người. Các nhà nghiên cứu AI tin rằng điều này có thể được áp dụng cho nghiên cứu khoa học mới.
Không giống như một chiếc máy tính có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và hiểu được. Trong thư gửi hội đồng quản trị, các nhà nghiên cứu đã đánh dấu sức mạnh và mối nguy hiểm tiềm tàng của AI.
Từ lâu đã có cuộc thảo luận giữa các nhà khoa học máy tính về mối nguy hiểm do máy móc cực kỳ thông minh gây ra. Trong khi đó, Sam Altman là người tích cực biến ChatGPT trở thành một trong những ứng dụng phần mềm phát triển nhanh nhất trong lịch sử và thu hút đầu tư cũng như tài nguyên máy tính từ Microsoft để tiến gần hơn đến AGI.
