Nhà thầu khủng hoảng cho OpenAI, Anthropic hướng tới hành động chống chủ nghĩa cực đoan

SYDNEY, Australia – Những người thể hiện xu hướng cực đoan bạo lực trên ChatGPT sẽ được chuyển hướng đến hỗ trợ phi cực đoan hoá dựa trên con người và chatbot thông qua một công cụ mới đang được phát triển tại New Zealand, những người đứng sau nó cho biết.

Sáng kiến này là nỗ lực mới nhất nhằm giải quyết các lo ngại về bảo mật trước số lượng ngày càng tăng các vụ kiện cáo buộc các công ty AI không ngăn chặn, và thậm chí còn tạo điều kiện cho bạo lực.

OpenAI đã bị chính phủ Canada đe doạ can thiệp vào tháng 2 sau khi tiết lộ một người thực hiện vụ xả súng chết người tại trường học đã bị cấm khỏi nền tảng mà không thông báo cho chính quyền.

ThroughLine, một startup được thuê trong những năm gần đây bởi chủ sở hữu ChatGPT là OpenAI cũng như các đối thủ Anthropic và Google, để chuyển hướng người dùng đến hỗ trợ khủng hoảng khi họ được gắn cờ là có nguy cơ tự gây hại, bạo lực gia đình hoặc rối loạn ăn uống, cũng đang khám phá các cách để mở rộng dịch vụ của mình bao gồm cả ngăn chặn chủ nghĩa cực đoan bạo lực, người sáng lập và cựu nhân viên thanh thiếu niên Elliot Taylor cho biết.

Công ty đang thảo luận với The Christchurch Call, một sáng kiến nhằm xoá bỏ sự th仇恨trực tuyến được thành lập sau vụ tấn công khủng bố tồi tệ nhất của New Zealand năm 2019, sẽ liên quan đến việc nhóm chống cực đoan đưa ra hướng dẫn trong khi ThroughLine phát triển chatbot can thiệp, cựu nhân viên thanh thiếu niên cho biết.

"Đó là điều mà chúng tôi muốn hướng tới và làm tốt hơn trong việc bao quát và sau đó có thể hỗ trợ tốt hơn các nền tảng," Taylor nói trong một cuộc phỏng vấn, đồng thời cho biết thêm rằng chưa có khung thời gian được đặt ra.

OpenAI xác nhận mối quan hệ với ThroughLine nhưng từ chối bình luận thêm. Anthropic và Google không phản hồi ngay lập tức đối với yêu cầu bình luận.

Công ty của Taylor, mà ông điều hành từ nhà ở vùng nông thôn New Zealand, đã trở thành lựa chọn hàng đầu cho các công ty AI với lời đề nghị mạng lưới được kiểm tra liên tục gồm 1,600 đường dây trợ giúp tại 180 quốc gia.

Khi AI phát hiện dấu hiệu của khủng hoảng sức khoẻ tâm thần tiềm ẩn, nó sẽ chuyển người dùng đến ThroughLine, nơi kết nối họ với dịch vụ do con người điều hành có sẵn gần đó.

Nhưng phạm vi của ThroughLine đã bị giới hạn ở các danh mục cụ thể, người sáng lập cho biết. Phạm vi rộng của các vấn đề sức khoẻ tâm thần mà mọi người tiết lộ trực tuyến đã bùng nổ với sự phổ biến của chatbot AI, và hiện bao gồm cả sự liên quan đến chủ nghĩa cực đoan, ông nói thêm.

Nhiều chatbot hơn, nhiều vấn đề hơn

Công cụ chống cực đoan có thể sẽ là một mô hình lai kết hợp chatbot được đào tạo để phản hồi những người có dấu hiệu cực đoan và giới thiệu đến các dịch vụ sức khoẻ tâm thần trong thế giới thực, Taylor cho biết.

"Chúng tôi không sử dụng dữ liệu đào tạo của LLM cơ sở," ông nói, đề cập đến các bộ dữ liệu chung mà các nền tảng mô hình ngôn ngữ lớn sử dụng để tạo thành văn bản mạch lạc. "Chúng tôi đang làm việc với các chuyên gia đúng đắn." Công nghệ hiện đang được thử nghiệm, nhưng chưa có ngày phát hành.

Galen Lamphere-Englund, một cố vấn chống khủng bố đại diện cho The Christchurch Call, cho biết ông hy vọng sẽ triển khai sản phẩm cho người điều hành các diễn đàn game và cho phụ huynh và người chăm sóc muốn loại bỏ chủ nghĩa cực đoan trực tuyến.

Một công cụ chuyển hướng chatbot là "một ý tưởng tốt và cần thiết vì nó nhận ra rằng không chỉ nội dung là vấn đề, mà còn là động lực quan hệ," Henry Fraser, một nhà nghiên cứu AI tại Queensland University of Technology, cho biết.

Sự thành công của sản phẩm có thể phụ thuộc vào các câu hỏi về "cơ chế theo dõi tốt như thế nào và các cấu trúc và mối quan hệ mà họ hướng mọi người vào giải quyết vấn đề tốt như thế nào," ông nói.

Taylor cho biết các tính năng theo dõi, bao gồm cả cảnh báo có thể gửi đến chính quyền về những người dùng nguy hiểm, vẫn chưa được xác định nhưng sẽ tính đến bất kỳ rủi ro nào về việc kích hoạt hành vi leo thang.

Ông cho biết những người gặp khó khăn có xu hướng chia sẻ những điều trực tuyến mà họ quá xấu hổ để nói với một người, và các chính phủ có nguy cơ làm tăng thêm nguy hiểm nếu họ gây áp lực lên các nền tảng để cắt đứt người dùng tham gia vào các cuộc trò chuyện nhạy cảm.

Kiểm duyệt tăng cường liên quan đến chiến đấu của các nền tảng dưới áp lực từ cơ quan thực thi pháp luật đã chứng kiến những người ủng hộ chuyển sang các lựa chọn thay thế ít được quản lý hơn như Telegram, theo một nghiên cứu năm 2025 của Trung tâm Stern về Kinh doanh và Nhân quyền thuộc Đại học New York.

"Nếu bạn nói chuyện với AI và tiết lộ cuộc khủng hoảng và nó đóng cuộc trò chuyện lại, không ai biết điều đó đã xảy ra, và người đó vẫn có thể không có hỗ trợ," Taylor nói. – Rappler.com