Trong bối cảnh công nghệ trí tuệ nhân tạo (AI) bùng nổ, những video, hình ảnh hoặc âm thanh giả mạo dễ dàng được tạo ra bằng “deepfake” (kỹ thuật kết hợp giữa các thuật toán học sâu và học máy) khiến những nội dung này có vẻ rất chân thực.
Điều đáng nói, những nội dung khiêu dâm được tạo ra bằng kỹ thuật này đang gia tăng, dẫn đến các vụ bê bối và quấy rối tại nhiều trường trung học tại Mỹ.
Các nhà quản lý đang loay hoay đối phó với vấn nạn này khi mà luật pháp liên bang chưa có lệnh cấm hành vi đáng lên án trên.
Ellis, 14 tuổi, học sinh của một trường ở vùng ngoại ô thành phố Dallas (bang Texas), là một trong số nạn nhân.
Tháng 10 vừa qua, những hình ảnh khỏa thân của cô gái này lan truyền trên mạng xã hội. Nhưng thực tế, từ bức ảnh của Ellis cùng một người bạn đăng tải trên ứng dụng Instagram, kẻ xấu đã cắt và ghép mặt của họ với cơ thể của người khác.
Những nữ sinh khác cũng trở thành mục tiêu khi những bức ảnh chung của họ nhanh chóng được chia sẻ với các bạn khác trong lớp thông qua Snapchat.
Vụ việc tương tự cũng xảy ra tại một trường trung học ở bang New Jersey, Đông Bắc nước Mỹ.
Bà Dorota Mani, mẹ của một trong số nạn nhân, cho rằng vấn nạn này sẽ xảy ra ngày càng thường xuyên hơn.
Bộ Nội vụ Anh dẫn các dữ liệu của Quỹ Giám sát Internet (IWF) cho thấy trên một diễn đàn web đen, người dùng đã chia sẻ gần 3.000 hình ảnh do AI dàn dựng là các tài liệu khiêu dâm trẻ em.
Nhiều nạn nhân không biết và hiện không có cách nào biết được liệu các nội dung khiêu dâm được tạo bằng “deepfake” có đang lan truyền trên mạng hay không. Các cuộc điều tra thường chỉ được tiến hành khi nạn nhân lên tiếng.
Các chuyên gia cũng nói rằng luật pháp hiện hành chưa thể bắt kịp xu hướng phát triển của công nghệ, thậm chí những video khiêu dâm giả mạo, thường tập trung vào những người nổi tiếng, được tạo ra bằng công nghệ “thô sơ” hơn vốn tồn tại nhiều năm nay.
Hiện nay bất cứ ai đăng tải nội dung tưởng chừng vô hại như ảnh chân dung trên mạng xã hội LinkedIn đều có thể trở thành nạn nhân.
Trong khi khó có thể phát hiện được những cá nhân tạo ra một số bức ảnh nhất định, nhà chức trách cũng không thể buộc các công ty AI hay mạng xã hội chịu trách nhiệm về những hình ảnh được chia sẻ.
Đến nay, chính quyền liên bang chưa có luật hạn chế nội dung khiêu dâm được tạo ra bằng “deepfake” và chỉ có một số bang thông qua luật kiểm soát vấn đề này.
Tháng trước, Tổng thống Mỹ Joe Biden đã ký một sắc lệnh hành pháp về AI, trong đó kêu gọi chính phủ đưa ra các biện pháp bảo vệ nhằm ngăn chặn hành vi tạo ra những nội dung về lạm dụng tình dục trẻ em và “hình ảnh thân mật không có sự đồng thuận của các cá nhân thực.”
Bất cứ ai có điện thoại thông minh cũng có thể tạo ra những bức ảnh, sử dụng phần mềm sẵn có với chi phí không đáng kể.
Giới chuyên gia cảnh báo những video và hình ảnh khiêu dâm được tạo ra bằng deepfake “có thể hủy hoại” cuộc sống của nạn nhân, nhất là những phụ nữ trẻ và bé gái.
Nhiều người đã mắc chứng trầm cảm, lo âu và rối loạn căng thẳng sau sang chấn vì biến cố không đáng có như vậy./.
