ChatGPT tiếp tay cho tội phạm mạng

Cho dù là viết luận văn hay phân tích dữ liệu, công cụ chatbot đang gây bão toàn cầu ChatGPT cũng có thể được sử dụng để giảm bớt khối lượng công việc của một người. Điều này, không may, cũng xảy ra với tội phạm mạng, theo Business Insider.

Sergey Shykevich, nhà nghiên cứu ChatGPT hàng đầu tại công ty an ninh mạng Checkpoint security, đã chứng kiến số lượng tội phạm mạng khai thác sức mạnh của AI để tạo mã có thể được sử dụng trong một cuộc tấn công ransomware.

Nhóm của Shykevich bắt đầu nghiên cứu khả năng AI có thể tiếp tay cho tội phạm mạng vào tháng 12/2021. Bằng cách sử dụng mô hình ngôn ngữ lớn của AI, họ đã tạo ra các email lừa đảo và mã độc.

Khi ChatGPT có thể được sử dụng cho các mục đích bất hợp pháp, Shykevich nói với Insider rằng nhóm của ông muốn xem liệu phát hiện của họ có phải là "lý thuyết" hay liệu họ có thể tìm thấy "những kẻ xấu đang sử dụng nó hay không".

Vì rất khó để biết liệu một email có chứa mã độc được gửi đến ai đó có được viết bằng ChatGPT hay không, nên nhóm của ông đã chuyển sang trang dark web để xem ứng dụng này đang được sử dụng như thế nào.

Vào ngày 21/12/2022, họ đã tìm thấy bằng chứng đầu tiên: Tội phạm mạng đang sử dụng chatbot để tạo một tập lệnh python có thể được sử dụng trong một cuộc tấn công bằng phần mềm độc hại. Shykevich nói rằng mã có một số lỗi, nhưng phần lớn là đúng.

Shykevich nói rằng ChatGPT và Codex, một dịch vụ OpenAI có thể viết mã cho các nhà phát triển, sẽ "cho phép những người ít kinh nghiệm hơn được coi là nhà phát triển”. Việc lạm dụng ChatGPT đang khiến các chuyên gia an ninh mạng lo lắng, những người nhận thấy chatbot AI này có thể tiếp tay kẻ xấu trong các cuộc tấn công lừa đảo, phần mềm độc hại và hack.

Justin Fier, giám đốc Cyber Intelligence & Analytics tại Darktrace, một công ty an ninh mạng, nói với Business Insider rằng khi nói đến các cuộc tấn công lừa đảo, không phải ai cũng có thể thực hiện được, nhưng ChatGPT có thể giúp mọi người tạo ra hàng chục email lừa đảo có chứa mã đọc được nhắm mục tiêu đến người khác một cách dễ dàng.

Một bộ phim khoa học viễn tưởng ngoài đời

Đầu tháng 2, công ty an ninh mạng Blackberry đã công bố một cuộc khảo sát từ 1.500 chuyên gia công nghệ thông tin, 74% trong số họ cho biết họ lo lắng về việc ChatGPT sẽ tiếp tay cho tội phạm mạng.

Cuộc khảo sát cũng cho thấy 71% tin rằng ChatGPT có thể đã được các quốc gia sử dụng để tấn công các quốc gia khác thông qua các nỗ lực hack và tấn công bằng mã độc. Shishir Singh, giám đốc công nghệ về an ninh mạng tại BlackBerry cho biết: "Đã có tài liệu chỉ ra rằng những người có mục đích xấu đang thử nghiệm ChatGPT để tiếp tay cho công việc của họ”.

Singh nói với Insider rằng những lo ngại này bắt nguồn từ sự tiến bộ nhanh chóng của AI trong năm qua. Các chuyên gia nói rằng những tiến bộ trong các mô hình ngôn ngữ lớn đã phát triển nhanh hơn dự kiến.

Singh đã mô tả những đổi mới nhanh chóng trong lĩnh vực AI như một thứ gì đó bước ra từ "bộ phim khoa học viễn tưởng". Singh nói: “Bất cứ điều gì chúng tôi thấy trong 9 đến 10 tháng qua, dường như trước đó chỉ xuất hiện trên Hollywood”.

OpenAI cần có trách nhiệm nhiều hơn

Khi tội phạm mạng bắt đầu tận dụng những công cụ như chatbot ChatGPT, các chuyên gia như cựu công tố viên liên bang Edward McAndrew đang tự hỏi liệu các công ty có chịu trách nhiệm về những vấn đề này hay không.

Ví dụ, McAndrew, một chuyên viên điều tra tội phạm mạng, đã chỉ ra rằng nếu ChatGPT hoặc một chatbot giống như vậy, khuyên ai đó phạm tội mạng, thì đó có thể là trách nhiệm pháp lý đối với các công ty hỗ trợ các chatbot này.

Trong cuộc khảo sát của Blackberry, 95% số người được hỏi cho biết chính phủ các nước phải chịu trách nhiệm tạo và thực hiện các quy định. McAndrew cho biết nhiệm vụ điều chỉnh các quy định có thể là một thách thức, vì không có một cơ quan hay cấp chính quyền nào chịu trách nhiệm tạo ra các hướng dẫn cho ngành AI.

Công nghệ vẫn chưa hoàn hảo cho tội phạm mạng

Các chuyên gia nói với Insider rằng một điều về ChatGPT có thể khiến tội phạm mạng vẫn chưa áp dụng nhiều, đó là nó vẫn có sai sót. Trong đoạn mã mà Shykevich và các đồng nghiệp của ông phát hiện ra trên dark web, các lỗi cần được sửa trước khi nó có thể tiếp tay cho một vụ lừa đảo.

Ngoài ra, ChatGPT tiếp tục triển khai các biện pháp bảo vệ để ngăn chặn hoạt động bất hợp pháp, mặc dù các biện pháp bảo vệ này thường có thể vượt qua được bằng tập lệnh phù hợp.

Shykevich đã chỉ ra rằng một số tội phạm mạng hiện đang dựa vào các mô hình API của ChatGPT, các phiên bản nguồn mở của ứng dụng không có các giới hạn nội dung giống như giao diện người dùng web.

Shykevich cũng cho biết tại thời điểm này, ChatGPT không thể hỗ trợ tạo phần mềm độc hại tinh vi hoặc tạo các trang web giả mạo, chẳng hạn như trang web của một ngân hàng nổi tiếng. Tuy nhiên, một ngày nào đó điều này có thể trở thành hiện thực vì cuộc chạy đua vũ trang AI do những gã khổng lồ công nghệ tạo ra có thể thúc đẩy sự phát triển của các chatbot tốt hơn, Shykevich nói với Insider. OpenAI hiện chưa trả lời bình luận của Insider về vấn đề này.

Diễn đàn Đầu tư Việt Nam 2025 (Vietnam Investment Forum 2025) với chủ đề “Khai thông & Bứt phá” do trang TTĐT tổng hợp VietnamBiz, Việt Nam Mới tổ chức sẽ diễn ra vào ngày 8/11/2024 tại GEM CENTER, TP HCM.

Sự kiện quy tụ giới chuyên gia cao cấp trong lĩnh vực đầu tư, tài chính là các nhà làm chính sách, CEO, CFO, CIO các ngân hàng, công ty chứng khoán, quỹ đầu tư, công ty bất động sản, các hãng xếp hạng, công ty cung cấp dữ liệu và hàng trăm nhà đầu tư có kinh nghiệm lâu năm trên thị trường chứng khoán và bất động sản.

Diễn đàn hứa hẹn mang lại không gian để các chuyên gia bàn luận về các xu hướng đầu tư mới, các góc nhìn chiến lược, mở ra nhiều ý tưởng đầu tư phù hợp cho giai đoạn mới. Đồng thời tạo cơ hội gặp gỡ, kết nối giữa nhà đầu tư và các đối tác tiềm năng trên thị trường.

Thông tin chi tiết chương trình: https://event.vietnambiz.vn/