(ĐTTCO) - Sau nhiều tuần vấp phải chỉ trích liên quan đến việc tạo và chỉnh sửa hình ảnh mang tính nhạy cảm, xAI cho biết sẽ thay đổi chính sách đối với chatbot Grok.

Theo thông báo đăng trên tài khoản @Safety ngày 15-1, X đã triển khai các biện pháp kỹ thuật nhằm ngăn Grok chỉnh sửa hình ảnh của người thật theo hướng gợi dục, bao gồm việc ghép ảnh vào trang phục như bikini.

Theo X, các biện pháp bảo vệ mới sẽ áp dụng cho tất cả người dùng, bất kể có trả phí hay không. Đồng thời, xAI cũng quyết định đưa toàn bộ tính năng tạo hình ảnh của Grok vào sau tường phí, đồng nghĩa người dùng không đăng ký sẽ không còn khả năng tạo ảnh.

Ngoài ra, X sẽ chặn theo khu vực địa lý khả năng tạo hình ảnh người thật mặc bikini, đồ lót hoặc trang phục tương tự tại những nơi hành vi này bị pháp luật cấm.

Động thái trên được đưa ra chỉ vài giờ sau khi bang California mở cuộc điều tra đối với xAI và Grok liên quan đến việc xử lý nội dung ảnh khỏa thân do AI tạo ra và nguy cơ lạm dụng trẻ em.

Văn phòng Tổng chưởng lý California dẫn một phân tích cho thấy hơn 50% trong số 20.000 hình ảnh do xAI tạo ra từ dịp Giáng sinh đến năm mới mô tả con người trong trạng thái ăn mặc tối thiểu, trong đó có một số hình ảnh trông giống trẻ vị thành niên.

X khẳng định có chính sách “không khoan nhượng” với các hành vi lạm dụng trẻ em và luôn gỡ bỏ nhanh các nội dung vi phạm nghiêm trọng, bao gồm tài liệu lạm dụng tình dục trẻ em và hình ảnh khỏa thân không có sự đồng thuận.

Trước đó, Malaysia và Indonesia đã chặn Grok vì lo ngại an toàn, trong khi cơ quan quản lý truyền thông Anh Ofcom cũng đang tiến hành điều tra và không loại trừ khả năng áp dụng biện pháp tương tự.

Ánh Vân (engadget)