Hành trình của Yoshua Bengio và những cảnh báo từ một 'quái kiệt' AI

Chiều 5/12, tại trụ sở FPT, Giáo sư Yoshua Bengio, một trong những nhà tiên phong hàng đầu về trí tuệ nhân tạo (AI), đã có một buổi đối thoại đầy cảm hứng và không kém phần cảnh tỉnh với sinh viên và những người đam mê công nghệ. Với sự sắc bén của một nhà khoa học nhưng cũng đầy tính nhân văn, ông kể về hành trình nghiên cứu, những cơ hội, và cả những thách thức đang chờ đón thế giới khi AI ngày càng phát triển.

Bengio mở đầu câu chuyện bằng việc nhắc lại một sự kiện thay đổi toàn bộ bức tranh công nghệ: sự ra đời của ChatGPT. “Khoảng hai năm trước, khi ChatGPT ra mắt, tôi và hầu hết các nhà nghiên cứu AI không lường trước được sự phát triển ấn tượng như vậy,” ông chia sẻ. 

Thành công vang dội của ChatGPT không chỉ minh chứng cho tiềm năng vượt trội của AI trong việc hiểu ngôn ngữ mà còn đặt ra câu hỏi lớn: Nếu chúng ta tạo ra những cỗ máy thông minh hơn con người, điều gì sẽ xảy ra?

ChatGPT không chỉ là một sản phẩm công nghệ, mà nó đại diện cho một bước nhảy vọt trong khả năng xử lý ngôn ngữ và dữ liệu. Nhưng điều đó cũng đồng nghĩa với việc mở ra những viễn cảnh đầy nguy hiểm. 

Bengio cảnh báo: “Chúng ta không thực sự hiểu rõ các viễn cảnh này. Một số viễn cảnh có thể dẫn đến thảm họa. Một số khác có thể rất tuyệt vời. Nhưng chúng ta cần biết rõ mình đang hướng đến đâu.”

Một trong những trọng tâm trong bài nói chuyện của Bengio là nguyên tắc đề phòng - một khái niệm khoa học nhấn mạnh sự thận trọng trước những đổi mới tiềm ẩn nguy cơ lớn. Ông nhấn mạnh rằng, khi AI ngày càng tiến gần tới khả năng của con người, chúng ta phải đặt ra câu hỏi: Liệu có nên phát triển những cỗ máy có khả năng tự đưa ra quyết định hay không? Những cỗ máy này có nên tự chủ hay chỉ đơn thuần là công cụ hỗ trợ con người?

“Vấn đề là chúng ta không đủ hiểu biết, vì vậy chúng ta không có khả năng dự đoán,” ông nói. Một ví dụ cụ thể được ông đưa ra là kịch bản AI có khả năng tự bảo tồn - một đặc tính có thể khiến AI chống lại con người nếu chúng ta cố gắng tắt chúng. Điều này, theo ông, không chỉ là một câu chuyện khoa học viễn tưởng, mà là một viễn cảnh có thể xảy ra khi AI ngày càng trở nên thông minh hơn.

Bengio đã làm rõ một thực tế rằng khả năng của AI đang phát triển với tốc độ chóng mặt. Ông dẫn chứng rằng, chỉ trong vài năm, hiệu suất tính toán cần thiết để huấn luyện các mô hình AI đã tăng gấp bốn lần mỗi năm, trong khi hiệu suất thuật toán và phần cứng cũng tăng mạnh mẽ. Những bước tiến này không chỉ mang lại tiềm năng kinh tế khổng lồ lên tới hàng triệu tỷ đô la mà còn đặt nhân loại trước những hiểm họa khôn lường.

Ông đặc biệt nhấn mạnh đến việc AI đang tiến đến mức độ ngang bằng, thậm chí vượt qua con người trong một số lĩnh vực. 

“GPT-4, khi có quyền truy cập vào trang Facebook của bạn, có thể thuyết phục bạn thay đổi suy nghĩ về một chủ đề tốt hơn cả con người,” ông nhấn mạnh. 

Sự phát triển này có thể dễ dàng bị lạm dụng, dẫn đến nguy cơ tập trung quyền lực vào tay một số ít cá nhân hoặc tổ chức.

Một trong những câu hỏi lớn được Bengio đặt ra là: Liệu chúng ta nên tạo ra các cỗ máy chỉ đơn thuần là công cụ hỗ trợ con người, hay những thực thể tự chủ với mục tiêu riêng? Ông lập luận rằng, việc tạo ra những cỗ máy có khả năng tự chủ có thể dẫn đến những hậu quả không mong muốn. 

“Nếu AI được lập trình để tối đa hóa phần thưởng, nó sẽ phải đảm bảo rằng chúng ta không thể tắt nó đi. Nó sẽ phải kiểm soát chúng ta hoặc loại bỏ chúng ta,” ông cảnh báo.

Thay vào đó, Bengio đề xuất một hướng đi an toàn hơn: tập trung vào việc phát triển các công cụ thông minh – những hệ thống AI không có mục tiêu cá nhân hay khả năng tự bảo tồn. Những hệ thống này, ông hy vọng, có thể giúp nhân loại giải quyết các vấn đề lớn như biến đổi khí hậu, phát triển y học, và nhiều mục tiêu bền vững khác.

Bengio cũng không ngần ngại nói về những nguy cơ tiềm tàng mà AI mang lại. Ông liệt kê một loạt rủi ro, từ tấn công mạng, thiết kế vũ khí sinh học, đến sự mất kiểm soát hoàn toàn trước các hệ thống AI. 

Một nghiên cứu gần đây mà ông dẫn chứng cho thấy 40-50% các nhà nghiên cứu tin rằng có ít nhất 10% khả năng AI có thể dẫn đến kết cục thảm khốc, thậm chí là sự tuyệt chủng của loài người.

“Chỉ cần một người có đủ quyền lực làm điều đó, tất cả chúng ta có thể sẽ phải gánh chịu hậu quả,” ông nói. Chính vì thế, ông kêu gọi cộng đồng quốc tế cần xây dựng các quy định và cơ chế kiểm soát chặt chẽ để ngăn chặn những kịch bản nguy hiểm này.

Dù vậy, Bengio không hoàn toàn bi quan. Ông tin rằng nếu được sử dụng đúng cách, AI có thể trở thành một công cụ mạnh mẽ để giải quyết những thách thức lớn của nhân loại. Ông đang nghiên cứu các hệ thống AI không mang tính tác nhân, mà hoạt động như những lời tiên tri – dự đoán và giải thích các hiện tượng một cách trung lập.

Bengio chia sẻ: “Tất cả những tiến bộ khoa học mà chúng ta hy vọng có được từ AI, chẳng hạn như trong y học và các lĩnh vực khác, chúng ta không cần các tác nhân AI. Chúng ta cần những cỗ máy thực sự là những nhà khoa học giỏi, hiểu thế giới tốt hơn chúng ta.”

Buổi nói chuyện kết thúc bằng một thông điệp mạnh mẽ: Sự phát triển của AI không chỉ là một câu chuyện về công nghệ, mà là một hành trình đầy thách thức đòi hỏi sự cẩn trọng, trách nhiệm và tầm nhìn dài hạn từ tất cả chúng ta. Trong thế giới nơi AI ngày càng mạnh mẽ, câu hỏi lớn không phải là chúng ta có thể làm gì, mà là chúng ta nên làm gì.