Trung Quốc siết chặt kiểm soát các công cụ bạn đồng hành ảo

Trung Quốc đã ban hành quy định mới nhằm hạn chế tình trạng phụ thuộc cảm xúc vào các công cụ bạn đồng hành ảo tích hợp trí tuệ nhân tạo (AI). Đây là bước đi mới trong nỗ lực quản lý lĩnh vực đang tăng trưởng nhanh.

Theo quy định mới, các nền tảng phải có khả năng phát hiện các dấu hiệu khủng hoảng tâm lý, can thiệp kịp thời trong các tình huống khẩn cấp, giới hạn thời gian sử dụng, trao cho người dùng toàn quyền kiểm soát dữ liệu cá nhân, cũng như ngăn chặn hành vi lạm dụng thông tin người dùng.

Quy định trên định nghĩa bạn đồng hành ảo AI là dịch vụ cung cấp "tương tác cảm xúc liên tục" thông qua văn bản, hình ảnh, âm thanh hoặc video; trong khi loại trừ các ứng dụng AI thực hiện tác vụ thông thường như dịch vụ khách hàng, hỗ trợ công việc, giáo dục và nghiên cứu khoa học.

Các dịch vụ bạn đồng hành ảo AI ngày càng trở nên phổ biến nhờ khả năng mô phỏng tính cách và hội thoại giống như con người. Tuy nhiên, điều này làm dấy lên những lo ngại rằng người dùng sẽ hình thành sự phụ thuộc cảm xúc cũng như đối mặt với nhiều rủi ro khác. Do đó, dư luận kêu gọi siết chặt quản lý đối với dịch vụ này.