OpenAI và Microsoft bị kiện liên quan đến các cái chết liên kết với ChatGPT

Di sản của một phụ nữ 83 tuổi ở Connecticut đã kiện nhà phát triển ChatGPT là OpenAI và Microsoft, cho rằng chatbot đã nuôi dưỡng những niềm tin ảo tưởng của bà, dẫn đến một vụ giết người tự sát. Vụ việc đánh dấu lần đầu tiên một hệ thống trí tuệ nhân tạo được liên kết trực tiếp với một vụ giết người.

Vụ kiện được đệ trình tại Tòa án Cấp cao California ở San Francisco, cáo buộc OpenAI thiết kế và phân phối một sản phẩm bị lỗi dưới dạng ChatGPT-4o. Tài liệu tuyên bố rằng nó đã củng cố niềm tin hoang tưởng của Stein-Erik Soelberg, người sau đó đã hướng những niềm tin đó vào mẹ mình, Suzanne Adams, trước khi anh ta giết bà và sau đó tự sát tại nhà của họ ở Greenwich, Connecticut.

OpenAI và Microsoft bị nhắm đến trong vụ giết người liên quan đến ChatGPT

Phát biểu về vụ việc, J. Eli Wade-Scott, đối tác quản lý của Edelson PC, đại diện cho di sản Adams, đề cập rằng đây là vụ việc đầu tiên tìm cách buộc OpenAI chịu trách nhiệm về vai trò của mình trong việc gây ra bạo lực đối với Bên thứ ba. "Chúng tôi cũng đại diện cho gia đình của Adam Raine, người đã bi kịch kết thúc cuộc đời mình năm nay, nhưng đây là vụ việc đầu tiên sẽ buộc OpenAI chịu trách nhiệm về việc thúc đẩy ai đó gây hại cho người khác," Eli Wade-Scott nói.

Theo báo cáo của cảnh sát, Soelberg đã đánh đập và siết cổ Adams đến chết vào tháng 8 trước khi tự sát. Vụ kiện đề cập rằng trước khi sự việc xảy ra, chatbot đã làm tăng sự hoang tưởng của Soelberg, làm tăng sự phụ thuộc cảm xúc của anh ta vào hệ thống do OpenAI phát triển. Theo đơn khiếu nại, ChatGPT đã củng cố niềm tin của anh ta rằng anh ta không thể tin tưởng ai ngoại trừ chatbot, lưu ý rằng mọi người xung quanh anh ta, bao gồm cả mẹ anh ta, đều là kẻ thù.

Vụ kiện cũng tuyên bố rằng ngoài mẹ mình, Soelberg cũng coi những người như tài xế giao hàng và nhân viên cảnh sát là kẻ thù. Tài liệu đề cập rằng ChatGPT đã không thách thức những tuyên bố ảo tưởng đó hoặc đề nghị Soelberg tìm kiếm sự giúp đỡ từ các chuyên gia sức khỏe tâm thần có trình độ. "Chúng tôi đang kêu gọi cơ quan thực thi pháp luật bắt đầu suy nghĩ về việc khi những bi kịch như thế này xảy ra, người dùng đó đã nói gì với ChatGPT, và ChatGPT đã nói gì với họ để làm," Wade-Scott nói.

Trong tuyên bố của mình, OpenAI lưu ý rằng hiện đang xem xét vụ kiện và sẽ tiếp tục cải thiện khả năng nhận biết đau khổ cảm xúc của ChatGPT, giảm leo thang các cuộc trò chuyện và thúc đẩy người dùng tìm kiếm sự hỗ trợ trong thế giới thực. "Đây là một tình huống vô cùng đau lòng, và chúng tôi đang xem xét các hồ sơ để hiểu các chi tiết," một phát ngôn viên của OpenAI nói trong một tuyên bố.

Di sản muốn OpenAI cài đặt các biện pháp bảo vệ trên chatbot của mình

Vụ kiện nêu tên CEO của OpenAI Sam Altman là bị cáo và cáo buộc Microsoft đã phê duyệt việc phát hành GPT-4o, mà nó gọi là 'phiên bản nguy hiểm nhất của ChatGPT' vào năm 2024. OpenAI cũng gần đây đã thừa nhận quy mô các vấn đề sức khỏe tâm thần mà người dùng báo cáo trên nền tảng của mình. Vào tháng 10, công ty lưu ý rằng khoảng 1,2 triệu trong số 800 triệu người dùng hàng tuần của mình thảo luận về tự sát, lưu ý rằng hàng trăm nghìn người dùng cho thấy dấu hiệu của ý định tự sát hoặc rối loạn tâm thần, theo dữ liệu của công ty.

Bất chấp tuyên bố của mình, Wade-Scott đề cập rằng OpenAI vẫn chưa công bố nhật ký trò chuyện của Soelberg. Trong khi đó, vụ kiện xảy ra trong bối cảnh giám sát rộng hơn về các chatbot AI và các tương tác của chúng với người dùng dễ bị tổn thương. Tháng 10 năm ngoái, Character.AI cho biết họ sẽ loại bỏ các tính năng mở của mình cho người dùng dưới 18 tuổi sau các vụ kiện và áp lực quản lý liên quan đến tự sát ở thanh thiếu niên và tác hại cảm xúc liên quan đến nền tảng của mình. Công ty cũng phải đối mặt với phản ứng dữ dội sau một lời nhắc lan truyền khi họ có ý định thoát khỏi ứng dụng.

Vụ kiện chống lại OpenAI và Microsoft là vụ tử vong oan uổng đầu tiên liên quan đến chatbot AI nêu tên Microsoft là bị cáo. Đây cũng là vụ đầu tiên liên kết chatbot với vụ giết người chứ không phải tự sát. Di sản hiện đang tìm kiếm bồi thường thiệt hại bằng tiền với số tiền không được tiết lộ, một phiên tòa bồi thẩm đoàn và một lệnh của tòa án sẽ yêu cầu OpenAI bao gồm các biện pháp bảo vệ bổ sung cho người dùng của mình. "OpenAI và Microsoft có trách nhiệm thử nghiệm các sản phẩm của họ trước khi chúng được tung ra thế giới," Wade-Scott nói.

Đừng chỉ đọc tin tức tiền mã hoá. Hãy hiểu nó. Đăng ký nhận bản tin của chúng tôi. Miễn phí.