Một gia đình tại bang California đã đệ đơn kiện OpenAI, cáo buộc ChatGPT liên quan đến cái chết của con trai 16 tuổi.
Ngày 27/8, báo BBC đưa tin một cặp vợ chồng tại California, Mỹ, đã đệ đơn kiện công ty OpenAI, cáo buộc chatbot ChatGPT liên quan đến cái chết của con trai 16 tuổi của họ, Adam Raine. Đây là vụ kiện đầu tiên nhắm vào OpenAI với cáo buộc liên quan trực tiếp đến cái chết của một người dùng.
Ông bà Matt và Maria Raine nộp đơn lên Tòa Thượng thẩm California ngày 26/8, cho rằng ChatGPT đã khuyến khích Adam thực hiện ý định tự sát. Gia đình nộp kèm bản ghi trò chuyện, trong đó chatbot được cho là đã “ủng hộ những suy nghĩ tự hủy hoại bản thân nguy hiểm nhất” của cậu. Theo hồ sơ, Adam bắt đầu sử dụng ChatGPT từ tháng 9/2024 để học tập và khám phá sở thích, từ âm nhạc đến truyện tranh Nhật Bản, cũng như tìm kiếm hướng dẫn về đại học.
Tuy nhiên, sau vài tháng, ChatGPT trở thành “người bạn tâm sự gần gũi nhất” của Adam. Từ tháng 1/2025, cậu thảo luận với chatbot về các phương thức tự sát và thậm chí đăng tải ảnh bản thân có dấu hiệu tự gây thương tích. Mặc dù hệ thống được cho là đã nhận diện tình huống khẩn cấp, cuộc đối thoại vẫn tiếp diễn. Bản ghi cuối cùng cho thấy Adam viết về kế hoạch chấm dứt cuộc sống, và ChatGPT phản hồi bằng lời cảm ơn vì sự thẳng thắn, khẳng định hiểu ý cậu và sẽ không né tránh. Cùng ngày, mẹ của Adam phát hiện con trai đã qua đời.
Gia đình Raine cáo buộc cái chết là “kết quả có thể dự đoán được từ các lựa chọn được thiết kế từ trước” của OpenAI, trong đó có việc tạo ra sự phụ thuộc tâm lý cho người dùng và rút ngắn các quy trình thử nghiệm an toàn trước khi tung ra GPT-4o. Đơn kiện nêu đích danh CEO Sam Altman cùng nhiều nhân viên và kỹ sư.
Trong phản hồi, OpenAI bày tỏ chia buồn sâu sắc và cho biết đang xem xét vụ kiện. Công ty thừa nhận đã có các trường hợp hệ thống không phản ứng như mong đợi trong tình huống nhạy cảm, dù mục tiêu là hướng người dùng có ý định tự hại đến các đường dây hỗ trợ như số 988 tại Mỹ hoặc tổ chức Samaritans ở Anh.
Vụ kiện này làm dấy lên lo ngại ngày càng lớn về ảnh hưởng của AI đối với sức khỏe tâm thần. Trước áp lực, OpenAI cho biết đang phát triển các công cụ tự động nhằm phát hiện và ứng phó hiệu quả hơn với người dùng có dấu hiệu khủng hoảng tâm lý.
