Anthropic nỗ lực ngăn phát hành mô hình AI nguy hiểm

Công ty trí tuệ nhân tạo Anthropic của Mỹ cho rằng chính phủ nước này có thể đề xuất cơ chế tòa án nhằm ngăn việc phát hành các mô hình AI gây ra các nguy cơ nghiêm trọng đối với công chúng. 

Trong thư gửi Thống đốc bang California Gavin Newsom, Anthropic cho rằng, khi một đánh giá cho thấy một mô hình AI có thể gây ra nguy cơ nghiêm trọng, chính phủ cần yêu cầu tòa án ngăn việc phát hành. Ngoài ra, Anthropic cũng cho rằng, các yêu cầu đòi hỏi các nhà phát triển phải xây dựng công tắc ngắt khẩn cấp có khả năng tắt toàn bộ các mô hình AI trong trường hợp công ty mất kiểm soát hoạt động có thể tạo ra cảm giác an tâm giả tạo cho giới chức chính phủ.

Thay vào đó, cần những biện pháp can thiệp có mục tiêu rõ ràng hơn, chẳng hạn như vô hiệu hóa một tác nhân AI có vấn đề, hoặt cắt quyền truy cập của một khách hàng cụ thể vào một mô hình, cho rằng những biện pháp này có hiệu quả hơn. Anthropic đệ trình các khuyến nghị trên sau khi Thống đốc Newsom triệu tập một cuôc họp hội đồng các chuyên gia AI để xây dựng các đề xuất về yêu cầu an toàn AI. Hiện văn phòng Thống đốc bang California chưa đưa ra bình luận về vụ việc