Ý tưởng dùng blockchain kiểm soát AI

Một trong những lo ngại về các mô hình ngôn ngữ dựa trên AI tạo sinh là dữ liệu dùng để huấn luyện các mô hình này có thể thiên vị hoặc thông tin sai lệch, kéo theo các câu trảl lời không chính xác.

Blockchain xuất hiện trên thị trường vào năm 2009 với sự ra mắt của tiền điện tử bitcoin. Trong bối cảnh của bitcoin, công nghệ này là một cuốn sổ cái công khai, bất biến và không thể giả mạo đối với các giao dịch.

Các doanh nghiệp đang tìm cách áp dụng những nguyên tắc này vào các ứng dụng khác của blockchain. Trong trường hợp của AI, dữ liệu huấn luyện có thể được đặt trên blockchain. Điều này sẽ cho phép các nhà phát triển hệ thống AI theo dõi dữ liệu mà mô hình đã được huấn luyện.

Casper Labs, một công ty blockchain tập trung vào dịch vụ doanh nghiệp, đã hợp tác với IBM trong tháng này để tạo ra một hệ thống như vậy.

“Sản phẩm mà chúng tôi đang phát triển, kiểm duyệt các dữ liệu và lưu trữ nó trên blockchain, do đó bạn có bằng chứng về cách AI được huấn luyện,” Medha Parlikar, Giám đốc công nghệ và đồng sáng lập của Casper Labs, nói với CNBC trong một phiên thảo luận tại Diễn đàn Kinh tế Thế giới ở Davos.

“Do đó, khi bạn sử dụng AI, nếu nó đang học và bạn thấy rằng AI bắt đầu ‘ảo giác’, bạn có thể hoàn tác một số giai đoạn và quay lại phiên bản trước của AI", CTO Casper Labs nói thêm.

Thuật ngữ "ảo giác" đề cập đến việc một hệ thống AI đưa ra thông tin sai lệch.

Blockchain là một công nghệ đã được bàn tán trong nhiều năm qua và một loạt các ngành công nghiệp từ tài chính đến chăm sóc sức khỏe đã tìm cách sử dụng nó.

Sheila Warren, Giám đốc điều hànhCrypto Council for Innovation, cho rằng tích hợp công nghệ blockchain vào lưu trữ dữ liệu huấn luyện AI có thể là "ứng dụng tuyệt vời" cho công nghệ này.

“Tôi thực sự nghĩ rằng việc mọi công đoạn xác minh dữ liệu của AI bởi blockchain là có khả năng”, Warren nói với CNBC trong cuộc thảo luận.