Những bức ảnh giả (deepfake) mô phỏng vụ bắt giữ cựu Tổng thống Mỹ Donald Trump lan truyền trên mạng xã hội là minh chứng cho sự bùng nổ của AI và những rủi ro nó mang lại.
Tuần qua, nhà sáng lập tổ chức điều tra độc lập Bellingcat Eliot Higgins chia sẻ trên Twitter cá nhân một số bức ảnh do AI tạo ra, mô phỏng khoảnh khắc cựu Tổng thống Donald Trump bị cảnh sát bắt giữ, kèm tiêu đề “tạo ra bức ảnh ông Trump bị bắt trong khi chờ ông Trump bị bắt”.
“Tôi chỉ muốn đùa vui một chút. Tôi nghĩ có lẽ chỉ 5 người sẽ retweet lại bức ảnh”, Higgins cho hay.
Chỉ trong vòng 2 ngày, bài đăng của Higgins thu hút gần 5 triệu lượt xem. Tốc độ lan truyền của những bức ảnh giả ông Trump bị bắt giữ, điều đến nay vẫn chưa xảy ra, là một ví dụ của những bức ảnh sống động có thể được tạo ra bởi AI, theo Washington Post.
Trong môi trường thông tin đầy biến động, những bức ảnh giả do AI tạo ra có thể gây hoang mang, nhầm lẫn cho dư luận, bởi nhà chức trách các nước tới nay vẫn chưa thi hành chính sách quản lý các dữ liệu do AI tạo ra.
Thượng nghị sĩ Mar Warner, chủ tịch Ủy ban Tình báo Thượng viện Mỹ, cho biết giới lập pháp nước này từ lâu đã cảnh báo về hành vi lạm dụng các công cụ kỹ thuật để truyền bá thông tin sai lệch, gây hoang mang và kích động bất hòa.
“Giờ là lúc các công cụ đã được sử dụng phổ biến và tỏ ra cực kỳ đáng kinh ngạc”, ông Warner nói.
Ảnh ông Trump bị bắt do AI vẽ. Ảnh: Eliot Higgins.
Vị thượng nghị sĩ đồng thời cảnh báo các nhà phát triển AI sẽ phải chịu trách nhiệm liên đới nếu tạo ra các sản phẩm gây hại. Ông Warner cũng kêu gọi Quốc hội Mỹ ban hành biện pháp bổ sung nhằm bảo đảm các công ty công nghệ xử lý mối đe dọa mà AI mang lại.
Sau khi các bức ảnh giả việc ông Trump bị bắt giữ được đăng trên Twitter, chúng nhanh chóng lan truyền sang Facebook.
Dù đại diện Meta nói Facebook và Instagram có chức năng kiểm tra tính xác thực của ảnh, một trong các bức ảnh giả vẫn tiếp tục tồn tại dù được chia sẻ hàng nghìn lần.
“Cựu Tổng thống Trump đã bị bắt và áp giải tới tòa án liên bang, đây là sự kiện chưa có tiền lệ. Bức ảnh gây sốc của ông Trump, cảnh sát giữ cả hai tay của ông, đang lan truyền nhanh trên mạng xã hội”, một người sử dụng Facebook viết và chia sẻ ảnh giả do AI tạo ra.
Ông Higgins, người đầu tiên đăng tải những bức ảnh giả, đã nhận hình phạt, có điều không phải từ chính quyền Mỹ. Thay vào đó, nhà sáng lập Bellingcat bị Midjourney, công ty chủ quản của AI đã tạo ra các bức ảnh giả, chặn truy cập vào mạng của Midjourney.
Tuy nhiên, Midjourney không giải thích lý do hình phạt này, cũng như không làm rõ ông Higgins đã vi phạm điều khoản nào.
Tuần trước, cựu Tổng thống Trump viết trên mạng xã hội Truth Social rằng ông có khả năng bị bắt vào ngày 21/3, khiến những người ủng hộ ông bất bình, theo Reuters.
“(Những bức ảnh giả) là thông tin trực quan đầu tiên việc ông Trump bị bắt, dù sự thực không phải như vậy. Đây là những gì nhiều người sẽ ghi nhớ ngay cả nếu cuối cùng ông Trump không bị truy tố”, Angelo Carusone, chủ tịch tổ chức theo dõi truyền thông Media Matters for America, nói.
Khi chia sẻ ảnh cựu Tổng thống Trump bị bắt trên Twitter, ông Higgins đã nói rõ các bức ảnh là giả. Nhưng hệ quả mà những bức ảnh tạo ra, lan truyền khắp các nền tảng mạng xã hội, cho thấy khả năng tạo ra những bức ảnh giả mạo giống như thật với số lượng lớn đã đạt được bước tiến đột phá.
Ảnh ông Trump bị bắt do AI vẽ. Ảnh: Eliot Higgins.
“Có thể thấy việc chế tạo ảnh giả sẽ được thực hiện có tổ chức, với mục đích tội phạm dễ dàng như thế nào”, Sam Gregory, giám đốc điều hành tổ chức bảo vệ quyền con người Witness, nhận định.
Đến nay, ảnh do AI tạo ra vẫn có những khiếm khuyết như bàn tay người có 6 ngón, làn da kim loại. Tuy nhiên, những lỗi này không che mờ được tiềm năng đột phá mà AI sở hữu trong làm giả hình ảnh.
Công nghệ đang phát triển ngày càng nhanh. Higgins cho biết ông sử dụng Phiên bản 5 AI của Midjourney để tạo ra ảnh giả vụ bắt giữ ông Trump. Trước đó, Higgins sử dụng Phiên bản 4 để tạo ra bộ ảnh các tổng thống Mỹ đóng vai giáo hoàng.
“Công cụ này dường như đang học hỏi về sự liền mạch của hình ảnh”, Higgins nói.
AI tạo ra ảnh dựa trên những kiến thức nhất định chúng có được về hình ảnh của đối tượng. Theo ông Higgins, độ chính xác của hình ảnh sẽ tỷ lệ thuận với mức độ nổi tiếng của đối tượng.
Thời gian gần đây, trí tuệ nhân tạo đã được sử dụng để lan truyền những thông tin sai sự thực.
Tháng trước, một video giả mạo lan truyền trên Twitter trong đó Thượng nghị sĩ Elizabeth Warren tuyên bố cử tri Cộng hòa không nên được cho phép bỏ phiếu. Twitter sau đó dán nhãn video này là “âm thanh đã bị chỉnh sửa”, một trong các tài khoản lan truyền video này nhiều nhất đã bị khóa.
Một đoạn video khác được chia sẻ trên Twitter trong đó Tổng thống Biden tuyên bố tổng động viên nhằm đáp trả Nga. Twitter dán nhãn video này là “deepfake” được tạo ra bởi AI.
Những năm gần đây, các công ty công nghệ đã siết chặt chính sách chống lại deepfake, sau vụ video của cựu Chủ tịch Hạ viện Mỹ Nancy Pelosi lan truyền trên mạng xã hội năm 2019.
Năm 2020, Meta cấm người sử dụng đăng video giả bị thao túng nội dung, nhưng để ngỏ khe hẹp nếu video vì mục đích giải trí hoặc châm biếm. Twitter cũng cấm người dùng chia sẻ các nội dung lừa đảo, mang tính thao túng có thể gây hại, ví dụ các bài đăng có thể dẫn tới bạo lực, bất ổn dân sự, đe dọa bí mật cá nhân.
“Kể từ đó, công nghệ đã trở nên phức tạp hơn và khó phân biệt thật giả hơn. Không công ty công nghệ nào đầu tư đúng mức để đối phó các nội dung giả mạo”, Angelo Carusone, chủ tịch Media Matters for America, nói.
Trong khi đó, Jessica Gonzalez, CEO tổ chức hoạt động cải cách truyền thông Free Press, cho biết các công ty công nghệ như Twitter, Google, Meta đang mất đi khả năng chống lại deepfake sau khi sa thải hàng nghìn nhân viên.
“Tôi không biết Twitter có nhân sự phụ trách hay ý định nghiêm túc bảo đảm nội dung chia sẻ trên mạng xã hội của họ là chính xác. Có những nội dung deepfake tạo ra rủi ro lớn hơn khi bước vào thời gian bầu cử. Người dân cần có thông tin chính xác về những ứng viên ra tranh cử”, bà Gonzalez nói.
Nguồn https://zingnews.vn/anh-ong-trump-bi-bat-do-ai-ve-gay-chan-dong-post1415031.html
Chuyên mục: TIN THẾ GIỚI
Tag:
Bài viết trước: AI trong phim đoạt giải Oscar 2023Bài kế: ChatGPT sắp có bản cập nhật làm đảo lộn thế giới công nghệ
