Công ty AI tập trung phát triển sản phẩm hơn là nghiên cứu an toàn làm dấy lên lo ngại

Các công ty công nghệ đang chuyển từ nghiên cứu an toàn AI sang phát triển sản phẩm, điều này khiến một số chuyên gia lo ngại sẽ làm tổn hại đến an toàn. Dự báo cho thấy các mô hình AI sẽ trở nên thông minh hơn, làm gia tăng nhu cầu về biện pháp an toàn.

James White, giám đốc công nghệ của Calypso, nhấn mạnh rằng trong khi các mô hình AI đang có bước tiến triển, chúng cũng có thể mang lại nhiều nguy cơ hơn. Các phân tích cho thấy thị trường AI có thể đạt 1 nghìn tỷ USD vào năm 2028, làm tăng lo ngại về an toàn.

Geoffrey Hinton kêu gọi phân bổ nguồn lực cho nghiên cứu an toàn, lập luận rằng nếu không có nó, xã hội có thể đối mặt với những nguy cơ nghiêm trọng trong tương lai. Cả OpenAI và Meta ngày càng bị chỉ trích vì đã không ưu tiên an toàn để tập trung vào phát triển sản phẩm mang lợi nhuận.