Kinh doanh

Nguy cơ nội dung bị đầu độc để 'hack' chatbot AI

Nhiều doanh nghiệp trong nước đang tích hợp chatbot AI với các nền tảng mở, nhưng không ngờ chúng có thể bị "đầu độc", làm sai lệch thông tin.

Tại sự kiện về phát triển hạ tầng số và phần mềm mã nguồn mở ngày 26/7 ở Hà Nội, ông Đào Việt Hùng, Giám đốc quốc gia Akamai Technologies Việt Nam, cho biết nhiều doanh nghiệp Việt ứng dụng mạnh mẽ các nền tảng mở, tích hợp chatbot AI để cải thiện hiệu suất và nâng cao trải nghiệm người dùng. Tuy nhiên, cùng với lợi ích, mô hình AI cũng trở thành mục tiêu của nhiều phương thức tấn công, trong đó có hình thức "đầu độc nội dung".

"Đầu độc" là cách kẻ xấu liên tục đặt câu hỏi và cung cấp thông tin sai lệch để dạy lại mô hình AI. Khi dữ liệu bị nhiễm nhưng chưa được phát hiện, hệ thống sẽ tiếp tục sử dụng thông tin sai, gây rò rỉ hoặc bị khai thác lỗ hổng để truy cập cơ sở dữ liệu.

Ông Đào Việt Hùng, Giám đốc quốc gia Akamai Technologies Việt Nam. Ảnh: VIA

Ông dẫn chứng một trường hợp thực tế, trong đó chatbot bán hàng trực tuyến của một hãng ôtô bị khách hàng thuyết phục bán xe mới với giá chỉ một USD. Người này đã khai thác lỗ hổng trong quá trình trao đổi, khiến chatbot chấp nhận yêu cầu. Trong một sự cố khác, hacker lấy được tài liệu mật và sơ đồ tổ chức nội bộ công ty chỉ bằng cách soạn chuỗi câu hỏi phù hợp gửi đến chatbot AI.

Phần mềm mã nguồn mở là nền tảng có mã lập trình công khai. Các chatbot AI xây dựng trên nền tảng này dễ tùy biến để phục vụ nhu cầu doanh nghiệp, nhưng cũng trở thành mục tiêu của hình thức "đầu độc" nếu thiếu biện pháp bảo mật phù hợp.

Theo ông Vũ Thế Bình, Phó chủ tịch kiêm Tổng thư ký Hiệp hội Internet Việt Nam, hạ tầng mở vẫn tiếp tục phát triển, đóng vai trò nền tảng cho đổi mới sáng tạo. "Hơn 90% doanh nghiệp hiện sử dụng nền tảng hoặc phần mềm mở dưới nhiều hình thức", ông cho biết.

Phó chủ tịch Hiệp hội Internet Vũ Thế Bình. Ảnh: VIA

Khảo sát của Red Hat năm 2024 cho thấy 82% lãnh đạo công nghệ xem nền tảng mở là yếu tố then chốt thúc đẩy chuyển đổi số và tăng tốc đổi mới. Các nền tảng nguồn mở như Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry ngày càng quan trọng trong vận hành hệ thống AI, IoT, 5G/6G và cloud native.

Giải pháp được ông Hùng đề xuất là áp dụng "AI bảo vệ AI". Hệ thống bảo mật AI tích hợp nhiều lớp bảo vệ cho dữ liệu, giúp tự phân loại thông tin an toàn, hay phát hiện dữ liệu tiềm ẩn nguy cơ tấn công, từ đó xử lý nhanh và phù hợp.

Diễn đàn Đầu tư Việt Nam 2027 (Vietnam Investment Forum 2027)

Thời gian: Ngày 12/11/2026
Địa điểm: Shilla Monogram Hanoi Westlake, số 6 Hoàng Minh Thảo, Tây Hồ Tây, Hà Nội

Là sự kiện thường niên quy tụ các chuyên gia đầu ngành, Diễn đàn Đầu tư Việt Nam 2027 mang đến những góc nhìn chuyên sâu về triển vọng đầu tư và cơ hội trên thị trường năm 2027.

Trong khuôn khổ sự kiện, Ban tổ chức sẽ công bố Best Retail Brokers 2026 - Bảng xếp hạng công ty chứng khoán có dịch vụ bán lẻ tốt nhất thị trường Việt Nam.

Hãy tham gia đánh giá chất lượng dịch vụ công ty chứng khoán, góp phần phản ánh trải nghiệm thực tế của nhà đầu tư và có cơ hội nhận vé mời tham dự Diễn đàn.

Cùng cộng đồng đầu tư đón đầu xu hướng, cập nhật góc nhìn chuyên gia và khám phá cơ hội đầu tư năm 2027. Đăng ký ngay để nhận ưu đãi vé Early Bird, giảm hơn 30%!

Trọng Đạt

Theo VnExpress Copy link

Link bài gốc

https://vnexpress.net/nguy-co-noi-dung-bi-dau-doc-de-hack-chatbot-ai-4919407.html

Lợi suất xuống dưới 5%, trái phiếu Mỹ đột ngột 'cháy hàng' bất chấp lạm phát

Nhà đầu tư đang đổ xô mua trái phiếu trong bối cảnh cổ phiếu bị bán tháo mạnh. Lần đầu tiên lợi suất 10 năm xuống dưới 5% kể từ ngày 23/9 và là mức giảm trong ngày mạnh nhất kể từ ngày 10/3/2023.