Trung Quốc công bố dự thảo quy định quản lý AI
Ngày 27/12, cơ quan quản lý không gian mạng Trung Quốc đã công bố dự thảo quy định lấy ý kiến công chúng nhằm thắt chặt giám sát đối với các dịch vụ trí tuệ nhân tạo (AI) được thiết kế để mô phỏng tính cách con người và tương tác cảm xúc với người dùng.
Động thái này nhấn mạnh nỗ lực của Trung Quốc trong việc định hình sự phát triển nhanh chóng của các sản phẩm AI hướng tới người tiêu dùng thông qua việc tăng cường các yêu cầu về an toàn và đạo đức.
Theo dự thảo, các quy định mới sẽ áp dụng cho những sản phẩm và dịch vụ AI cung cấp tại Trung Quốc có tính năng mô phỏng đặc điểm tính cách, tư duy và phong cách giao tiếp của con người, đồng thời tương tác với người dùng về mặt cảm xúc thông qua văn bản, hình ảnh, âm thanh, video hoặc các phương tiện khác.
Văn bản đề xuất phương pháp quản lý yêu cầu các nhà cung cấp dịch vụ phải cảnh báo người dùng về việc sử dụng quá mức và can thiệp kịp thời khi người dùng có dấu hiệu nghiện.
Các nhà cung cấp cũng buộc phải chịu trách nhiệm về an toàn trong suốt vòng đời sản phẩm, thiết lập các hệ thống đánh giá thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.
Đáng chú ý, dự thảo nhắm tới việc kiểm soát các rủi ro tâm lý tiềm ẩn. Các nhà cung cấp được yêu cầu xác định trạng thái của người dùng, đánh giá cảm xúc và mức độ phụ thuộc của họ vào dịch vụ. Nếu phát hiện người dùng biểu hiện cảm xúc cực đoan hoặc hành vi nghiện, nhà cung cấp phải thực hiện các biện pháp can thiệp cần thiết.
Bên cạnh đó, các biện pháp này cũng thiết lập những cảnh báo về nội dung và hành vi. Theo đó, các dịch vụ AI không được phép tạo ra nội dung gây nguy hại đến an ninh quốc gia, lan truyền tin đồn thất thiệt, hoặc cổ xúy bạo lực và đồi trụy.
