Một thẩm phán sử dụng ChatGPT để ra phán quyết

Thẩm phán Juan Manuel Padilla Garcia, người chủ trì Toà án Tối cao liên bang ở thành phố Cartagena (Columbia), cho biết ông đã sử dụng công cụ chatbot AI để đặt ra các câu hỏi pháp lý về vụ việc và đưa các câu trả lời của công cụ trí tuệ nhân tạo này vào quyết định của mình, theo một tài liệu của tòa án ngày 30/1.

"Các lập luận cho quyết định này sẽ được xác định phù hợp với việc sử dụng trí tuệ nhân tạo (AI)," ông Garcia viết trong quyết định. "Theo đó, chúng tôi đã nhập các phần của câu hỏi pháp lý được đặt ra trong các thủ tục tố tụng này. Mục đích của việc này không phải là để thay thế quyết định của thẩm phán", ông nói thêm.

Theo tờ VICE, vụ việc liên quan đến tranh chấp với một công ty bảo hiểm y tế về việc liệu một đứa trẻ mắc chứng tự kỷ có được bảo hiểm để điều trị y tế hay không.

Theo tài liệu của tòa án, các câu hỏi pháp lý được đưa vào công cụ AI bao gồm “Trẻ vị thành niên mắc chứng tự kỷ có được miễn trả phí cho các liệu pháp của họ không?” và “Liệu cơ quan tài phán của tòa án hiến pháp có đưa ra các quyết định có lợi cho các trường hợp tương tự không?”

Trong phán quyết của mình, thẩm phán Garcia đã liệt kê các câu trả lời của ChatGPT. Điều này đánh dấu lần đầu tiên một thẩm phán thừa nhận đã sử dụng trí tuệ nhân tạo vào quá trình xét xử. Vị thẩm phán cũng đưa ra những hiểu biết sâu sắc của riêng ông về các tiền lệ pháp lý hiện hành và cho biết AI được sử dụng để "mở rộng các lập luận của quyết định được thông qua."

Sau khi trình bày chi tiết các cuộc trao đổi với ChatGPT, thẩm phán sau đó sẽ tham khảo các câu trả lời của chatbot này kết hợp với các lập luận pháp lý của chính mình để làm cơ sở đưa ra phán quyết.

Theo tờ VICE, luật pháp Colombia không cấm sử dụng AI trong các quyết định của tòa án, nhưng các chatbot AI như ChatGPT được biết là đưa ra các câu trả lời thiên vị, phân biệt đối xử và có thể chứa thông tin sai lệch.

Đây là hạn chế hiện tại của chatbot này do mô hình ngôn ngữ không có “sự hiểu biết” thực sự về vấn đề và nó chỉ tổng hợp các câu dựa trên xác suất từ ​​hàng triệu ví dụ được sử dụng để đào tạo hệ thống.

Nhà phát triển ChatGPT - OpenAI, đã triển khai các bộ lọc để hỗ trợ nội dung do chatbot này viết. Song, các nhà phát triển cảnh báo rằng công cụ này vẫn có những hạn chế đáng kể và không nên được sử dụng để đưa ra quyết định mang tính hệ quả.