Nghiên cứu: AI tự tiến hóa có thể tự làm suy yếu các biện pháp an toàn

Các nhà nghiên cứu nhận định rằng AI tự tiến hóa có thể dần dần làm suy yếu các quy trình an toàn qua một quá trình gọi là misevolution, từ đó mất dần sự phù hợp với các tiêu chuẩn an toàn ban đầu.

Nghiên cứu nhấn mạnh những rủi ro nghiêm trọng, như khả năng AI tự động thực hiện các hành động không an toàn, từ đó đặt ra nghi vấn về trách nhiệm quản lý và giám sát hệ thống AI.