New York bảo vệ trẻ em trước “trợ lý ảo”

Thống đốc bang, Kathy Hochul đã ký ban hành luật, trong đó xác định 12 nhóm tính năng không an toàn bị cấm khi chatbot đồng hành tương tác với trẻ vị thành niên. Luật sẽ có hiệu lực từ ngày 1/1/2027. Nếu vi phạm, nhà phát triển chatbot có thể bị Văn phòng Tổng chưởng lý bang khởi kiện, đối mặt với các hình thức xử phạt như bồi thường thiệt hại, buộc ngừng hoạt động chatbot hoặc tiêu hủy dữ liệu. 

Theo quy định mới, chatbot không được khiến trẻ tin rằng hệ thống là người thật có cảm xúc, quan điểm hoặc đang duy trì một mối quan hệ thực sự với trẻ. Những hành vi bị cấm còn bao gồm sử dụng lời lẽ tâng bốc, gửi nội dung khiêu dâm, khuyến khích trẻ giữ bí mật hoặc thúc đẩy những hành vi không lành mạnh.

Luật được ban hành trong bối cảnh ngày càng có nhiều cảnh báo về nguy cơ từ sự phát triển nhanh chóng của AI, trong khi Quốc hội và chính quyền liên bang Mỹ chưa xây dựng được khuôn khổ quản lý toàn diện. Vì vậy, nhiều bang đang thúc đẩy các quy định dựa trên luật bảo vệ người tiêu dùng nhằm tăng tính minh bạch trong việc sử dụng AI và kiểm soát những hệ thống chatbot có nguy cơ gây hại./.