Di sản của một phụ nữ 83 tuổi ở Connecticut đã kiện nhà phát triển ChatGPT OpenAI và Microsoft, cáo buộc rằng chatbot đã nuôi dưỡng những niềm tin hoang tưởng của bà, dẫn đến một vụ giết người tự tử. Vụ án đánh dấu lần đầu tiên một hệ thống trí tuệ nhân tạo được liên kết trực tiếp với một vụ giết người.
Vụ kiện được đệ trình tại Tòa án Cấp cao California ở San Francisco, cáo buộc OpenAI thiết kế và phân phối một sản phẩm bị lỗi dưới dạng ChatGPT-4o. Tài liệu khẳng định rằng nó đã củng cố niềm tin hoang tưởng của Stein-Erik Soelberg, người sau đó đã hướng những niềm tin đó vào mẹ mình, Suzanne Adams, trước khi anh ta giết bà và sau đó tự sát tại nhà của họ ở Greenwich, Connecticut.
OpenAI và Microsoft là mục tiêu trong vụ giết người liên quan đến ChatGPT
Nói về vụ án, J. Eli Wade-Scott, đối tác quản lý của Edelson PC, người đại diện cho di sản Adams, đề cập rằng đây là vụ án đầu tiên tìm cách buộc OpenAI chịu trách nhiệm về vai trò của nó trong việc gây ra bạo lực đối với Bên thứ ba. "Chúng tôi cũng đại diện cho gia đình của Adam Raine, người đã bi thảm tự kết liễu cuộc đời của mình trong năm nay, nhưng đây là vụ án đầu tiên sẽ buộc OpenAI chịu trách nhiệm về việc thúc đẩy ai đó hướng đến việc làm hại người khác," Eli Wade-Scott nói.
Theo báo cáo của cảnh sát, Soelberg đã đánh đập và bóp cổ Adams đến chết vào tháng 8 trước khi tự tử. Vụ kiện đề cập rằng trước khi sự cố xảy ra, chatbot đã làm tăng cường sự hoang tưởng của Soelberg, làm tăng sự phụ thuộc cảm xúc của anh ta vào hệ thống do OpenAI phát triển. Theo khiếu nại, ChatGPT đã củng cố niềm tin của anh ta rằng anh ta không thể tin tưởng ai ngoại trừ chatbot, lưu ý rằng mọi người xung quanh anh ta, bao gồm cả mẹ anh ta, đều là kẻ thù.
Vụ kiện cũng khẳng định rằng ngoài mẹ của mình, Soelberg cũng coi những người như tài xế giao hàng và nhân viên cảnh sát là kẻ thù. Tài liệu đề cập rằng ChatGPT đã không thách thức những tuyên bố hoang tưởng đó hoặc đề nghị rằng Soelberg tìm kiếm sự giúp đỡ từ các chuyên gia sức khỏe tâm thần có trình độ. "Chúng tôi đang kêu gọi cơ quan thực thi pháp luật bắt đầu suy nghĩ về khi những bi kịch như thế này xảy ra, người dùng đó đã nói gì với ChatGPT và ChatGPT đã nói với họ làm gì," Wade-Scott nói.
Trong tuyên bố của mình, OpenAI lưu ý rằng hiện tại họ đang xem xét vụ kiện và sẽ tiếp tục cải thiện khả năng nhận biết sự đau khổ cảm xúc của ChatGPT, giảm leo thang các cuộc trò chuyện và thúc đẩy người dùng tìm kiếm sự hỗ trợ trong thế giới thực. "Đây là một tình huống vô cùng đau lòng và chúng tôi đang xem xét các hồ sơ để hiểu các chi tiết," một phát ngôn viên của OpenAI cho biết trong một tuyên bố.
Di sản muốn OpenAI cài đặt các biện pháp bảo vệ trên chatbot của mình
Vụ kiện nêu tên CEO của OpenAI Sam Altman là bị đơn và cáo buộc Microsoft đã phê duyệt việc phát hành GPT-4o, mà nó gọi là 'phiên bản nguy hiểm nhất của ChatGPT' vào năm 2024. OpenAI cũng gần đây đã thừa nhận quy mô của các vấn đề sức khỏe tâm thần mà người dùng báo cáo trên nền tảng của mình. Vào tháng 10, công ty lưu ý rằng khoảng 1,2 triệu trong số 800 triệu người dùng hoạt động hàng ngày hàng tuần của họ thảo luận về tự tử, lưu ý rằng hàng trăm nghìn người dùng cho thấy dấu hiệu của ý định tự tử hoặc loạn thần, theo dữ liệu của công ty.
Bất chấp tuyên bố của mình, Wade-Scott đề cập rằng OpenAI vẫn chưa công bố nhật ký trò chuyện của Soelberg. Trong khi đó, vụ kiện diễn ra trong bối cảnh giám sát rộng hơn về các chatbot AI Agent và sự tương tác của chúng với người dùng dễ bị tổn thương. Vào tháng 10 năm ngoái, Character.AI cho biết họ sẽ loại bỏ các tính năng mở cho người dùng dưới 18 tuổi sau các vụ kiện và áp lực quy định liên quan đến tự tử thanh thiếu niên và tổn hại cảm xúc liên quan đến nền tảng của mình. Công ty cũng phải đối mặt với phản ứng dữ dội sau một lời nhắc lan truyền khi họ định thoát khỏi ứng dụng.
Vụ kiện chống lại OpenAI và Microsoft là vụ án tử vong oan uổng đầu tiên liên quan đến một chatbot AI Agent nêu tên Microsoft là bị đơn. Nó cũng là vụ đầu tiên liên kết một chatbot với giết người thay vì tự tử. Di sản hiện đang tìm kiếm bồi thường thiệt hại tiền tệ với số tiền không được tiết lộ, một phiên tòa xét xử với bồi thẩm đoàn và một lệnh của tòa án sẽ yêu cầu OpenAI bao gồm các biện pháp bảo vệ bổ sung cho người dùng của mình. "OpenAI và Microsoft có trách nhiệm kiểm tra các sản phẩm của họ trước khi chúng được tung ra thế giới," Wade-Scott nói.
Tham gia cộng đồng giao dịch tiền mã hoá cao cấp miễn phí trong 30 ngày – thường là $100/tháng.
Nguồn: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
