Deepfake – ác quỷ Internet

Thực hiện:Thiên Phúc | Ảnh:Thiên Phúc | 2020-03-30

Deepfake – ác quỷ Internet
Chia sẻ:

Cách đây ít lâu, tài khoản The Fakeningvừa đăng một video liên quan đến Deepfake lên Youtube, trong đó là cuộc trao đổi giữa tỷ phú công nghệ Jeff Bezos và Elon Musk, nhưng được ghép mặt để trở thành các diễn viên trong bộ phim Star Trek nổi tiếng. Musk vào vai thuyền trưởng Pike, trong khi Bezos là thành viên của chủng tộc ngoài hành tinh Talosian. Video này nhanh chóng nhận được sự chú ý của cộng đồng mạng bởi độ chân thực đến tuyệt vời của nó, khi các cử chỉ về khuôn mặt, lời nói, sắc thái… rất khớp và khó nhận biết nếu không tìm hiểu thông tin đằng sau.

Báo cáo của Washington Post đầu năm nay cũng cho biết,một phụ nữ 40 tuổi đã tìm thấy một video có gương mặt mình bị ghép vào cơ thể một nữ diễn viên khiêu dâm trẻ. Điều đáng lo ngại là hình ảnh cắt ghép một cách liền mạch, tạo ra cảm giác chân thật tới mức cô thấy buồn nôn và đau đớn khi xem. Cô sau đó tỏ ra lo sợ, nhất là nếu đồng nghiệp, gia đình hoặc bạn bè trông thấy và sẽ thay đổi cách nhìn về mình, bởi khó thuyết phục họ tin nó không có thật.

Thực tế, người dùng có thể tìm kiếm vô vàn các video trên Internet về Deepfake. Điều đáng sợ là chúng hầu hết liên quan đến các nội dung khiêu dâm và không lành mạnh, làm dấy lên mối lo ngại về công nghệ này trong tương lai.


Deepfake – khi giả dạng là điều không quá khó khăn

Trở lại năm 2013, khi Paul Walker, nam diễn viên của loạt phimFast and Furious, bất ngờ gặp tai nạn và qua đời. Do phần thứ 7 vẫn chưa quay xong, đoàn phim đã mời Cody Walker, em trai của Paul đóng thế. Tuy vẫn có một số điểm tương đồng, các chuyên gia vẫn phải tinh chỉnh làm sao cho giống nhau thông qua thuật toán. Đây có thể xem là bước sơ khai cho cái gọi là Deepfake.

Theo Deepfake Society, thuật ngữ "Deepfake" là sự kết hợp giữa "deep learning" (học sâu) và "fake" (làm giả), được xây dựng trên nền tảng machine learning (học máy) mã nguồn mở dùng trí tuệ nhân tạo (AI) của Google. Thuật toán này quét video và ảnh chân dung của một người, sau đó dùng AI hợp nhất với video đích nhưng thay thế các chi tiết trên gương mặt như mắt, miệng, mũi, rồi lồng ghép biểu cảm chuyển động gương mặt, giọng nói. Càng có nhiều hình ảnh gốc, AI càng có nhiều dữ liệu để "học", từ đó độ chân thực ngày càng cao.

Trở lại với trường hợp trong báo cáo của Washington Post, các chuyên gia đã xem video này và nhận thấy chúng được tạo ra từ 491 hình ảnh lấy trên trang Facebook cá nhân của nạn nhân. Đáng ngạc nhiên hơn, thời gian để tạo một video cực kỳ giống như vậy chỉ khoảng hai ngày.

Theo Business Insider, thực tế trên các diễn đàn thảo luận về AI hay học máy, không khó để thuê một người khác làm video giả với nhân vật chính là đồng nghiệp hay bạn bè của họ chỉ với khoảng 15 - 20 USD hoặc cao hơn tùy thuộc vào độ chân thực. Thậm chí, với những "tay mơ" mới học Deepfake, họ có thể tạo cho bạn mà không lấy một đồng nào, miễn bạn trao cho họ dữ liệu hình ảnh.

Ctrl Shift Face, kênh YouTube chuyên dùng công nghệ Deepfake, công cụ sản xuất Deepfake ngày càng "đơn giản và thông minh", bất kỳ ai với một chút hiểu biết về Internet cũng có thể làm video giả. Còn kênh Beijing News cũng từngđưa tin năm ngoái rằng, phim khiêu dâm Deepfake được bán với giá chỉ 4 nhân dân tệ (13 nghìn đồng) một video, trọn gói 700 video là 158 nhân dân tệ (500.000 đồng). Trang này cũng cho biết video ghép khuôn mặt có thể được tùy chỉnh theo yêu cầu, được rao bán với giá khởi điểm từ 20 nhân dân tệ cho mỗi phút. Người mua chỉ cần cung cấp ảnh người nổi tiếng hoặc cá nhân, càng nhiều càng tốt.

Hầu hết dùng cho mục đích xấu

Cách đây khoảng hơn 30 năm về trước, Photoshop xuất hiện và làm thay đổi hoàn toàn cách nhìn nhận thông tin qua ảnh. Những hình ảnh nhìn thấy trên Internet có thể là sản phẩm của một quá trình cắt ghép kỳ công, khiến mọi người bắt đầu hoài nghi vào độ chính xác của hình ảnh. Họ đặt niềm tin nhiều hơn vào video, ghi âm vì đây là những thứ gần-như-không-thể-giả -mạo.

Nhưng thực tế, họ đã lầm, nói đúng hơn là đang lầm khi Deepfake xuất hiện. Từ 2014 - 2017, Deepfake trở nên phổ biến dần, nhất là sau khi một người dùng Reddit có tên "Deepfakes" phát hành một công cụ trong đó sử dụng AI để chèn gương mặt của người nổi tiếng vào trong các bộ phim khiêu dâm. Scarlett Johansson và Gal Gadot là những nạn nhân trong đó.

Quan trọng hơn, Deepfake đã xuất hiện và "đâm thủng" niềm tin của những người xem video là không thể giả mạo. Hay nói cách khác, giờ đây cái gì trên Internet cũng khó có thể chính xác được nữa. Chúng có thể bị giả mạo bất cứ lúc nào và bất cứ ý đồ nào.

Theo Deeptrace, một start-up ở Amsterdamchuyên phát hiện nội dung do AI thao túng, hiện có khoảng 14.678 video Deepfake trên Internet,tăng 84% so với mức 7.964 video tính đến tháng 12/2018.Trong đó, có tới96% video Deepfake đang lan truyền trên mạng có nội dung đồi trụy. "Chúng tôi phát hiện ra bốn trang web khiêu dâm hàng đầu chuyên đăng tải các video Deepfake có tổng tới 134 triệu lượt xem", ông Giorgio Patrini, CEO Deeptrace, nói. "Đa số nạn nhân trong số đó là người nổi tiếng, như ca sĩ, người mẫu, diễn viên… và là giới tính nữ bị ghép mặt".

Không những thế, CEOFacebook Mark Zuckerberg,CEO Tesla Elon Musk, Tổng thống Mỹ Donald Trump hay cựu Tổng thống Barrack Obama cũngtừnglà nạn nhân của Deepfake, khi video lồng ghép khuôn mặt của họ, phát đi các thông điệp giả mạo lan truyền trên mạng. Điều đáng lo ngại là không ít người tin nó là thật.

Không chỉ giả mạo hình ảnh, Deepfake còn giả mạo âm thanh. Vào tháng 3/2019, một nhóm tội phạm đã dùng AI để giả mạo giọng nói CEO một công ty trụ sở Đức rồi gọi điện cho Giám đốc chi nhánh ở Anh, đề nghị người này chuyển khoản cho nhà cung ứng ở Hungary trong vòng một giờ. Người nhận đã không mảy may nghi ngờ bởi giọng nói ở đầu bên kia rất "quen thuộc" và một số tiền lớn được chuyển đi sau đó. Số tiền này sau đó biến mất cùng "người lạ".

TheoHuffPost, phần mềm Deepfake được xây dựng để phô diễn sức mạnh của trí tuệ nhân tạo, nhưng đangbị lợi dụng để tấn công người khác. Chúng đôi khi trở thành phương tiện để làm mất uy tín, sỉ nhục, quấy rối hoặc lạm dụng. Với đa số đàn ông, việc bị chèn trong video giả mạo có thể xem như trò đùa. Nhưng khi nhắm tới phụ nữ, những video đó chủ yếu mang tính khiêu dâm. "Không có lựa chọn nào khác. Sẽ có người lợi dụng AI để tống tiền người khác, hoặc làm điều xấu", Phó giáo sư Hao Li tại Đại học Southern California, nhận xét.


Chưa thể kiểm soát

Dù hầu hết các nội dung có Deepfake sử dụng cho mục đích xấu và tạo ra cực kỳ đơn giản, công nghệ này chưa được kiểm soát đúng mực ở hầu hết các quốc gia. Vài người nhìn vào mặt tích cực và cho rằng Deepfake có thể đem lại những thước phim hài hước, nhưng phần đông lại tỏ ra lo sợ , bởi thực tế chưa có nước nào có đạo luật rõ ràng về việc ngăn chặn hoặc xử phạt nội dung Deepfake.

Hiện tại, Twitter, Facebook hay thậm chí là các trang có nội dung người lớn như Pornhub, Discord, Gfycat đã cấm các nội dung Deepfake. Tuy nhiên, các thuật toán sàng lọc hiện tại chưa thực sự hiệu quả, đơn cử là video giả của Tổng thống Trump, Elon Musk hay CEO Zuckerberg vẫn xuất hiện trên Facebook thời gian dài không thể xóa bỏ.

Trong khi đó, Google – công ty nơi khởi nguồn thuật toán về AI và Deepfake - cũng bắt đầu có những động thái tích cực hơn, chẳng hạn trả tiền cho nhiều diễn viên để ghi lại hàng trăm video, sau đó sử dụng các công cụ tái tạo hình ảnh Deepfake. Bộ dữ liệu của Google có tới 3.000 video giả mạo để hỗ trợ các nhà nghiên cứu tìm cách ngăn chặn vấn nạn chỉnh sửa hình ảnh nhờ AI.

"Với khả năng sản xuất nội dung khiêu dâm và các video giả mạo cho mục đích riêng, mọi người đều trở thành mục tiêu tiềm năng", Adam Dodge, giám đốc pháp lý của Laura's House, một tổ chức hỗ trợ nạn nhân bạo lực gia đình ở California (Mỹ), khuyến cáo.

Sponsored Stories

Chuyên gia Đoàn Kiều My: Startup DeepTech Việt Nam chưa thể tự tiếp thị về mình với nhà đầu tư

Xã hội có nhiều vấn đề để giải quyết, có nhiều giải pháp nhưng cái nào là cái tối ưu nhất cho từng thị trường. Sau bước hiểu về bản chất, các startup giờ đây có thể kết hợp nền tảng công nghệ mới, từ đó sẽ hình thành nên những thế hệ Deep Tech ngày càng tối ưu hóa thị trường hơn, có thể ứng dụng ngày càng nhiều các dự án nền tảng Deep Tech vào đời sống. Để thành công, cần chiến lược thu hút nhà đầu tư ra sao?

Mango Digital và chuyện “Sáng tạo có Dữ liệu”

Dữ liệu (Data) giúp được gì cho Sáng tạo? Liệu những chỉ số đo lường hiện tại có thể đánh giá được mức độ thành công của một chiến dịch?

Lixibox – Nền tảng dữ liệu số thúc đẩy trải nghiệm mua sắm toàn diện ngành Làm đẹp

1 startup kiểu mẫu nhờ được vận hành bởi những "bộ não" xuất thân từ Silicon Valley

Nguyễn Ngọc Vũ tạo “luật chơi” riêng cho sự nghiệp nghệ thuật của mình

|Magazine | The Impact Issue

Nguyễn Ngọc Vũ tạo “luật chơi” riêng cho sự nghiệp nghệ thuật của mình

Đổi trường, đổi ngành đến 4 lần, từng có lúc bỏ dở việc học chỉ để suy ngẫm xem mình thích gì, Nguyễn Ngọc Vũ cuối cùng cũng đã tìm được một con đường riêng. Con đường không đến từ giảng đường đại học, nhưng lại mở ra một mảnh đất màu mỡ để anh ghi dấu ấn của mình qua những triển lãm nghệ thuật quảng bá văn hóa Việt thu hút sự chú ý của giới chuyên môn quốc tế.

“Voi biển” Trương Thế Vinh sẵn sàng trở lại với “đường đua” âm nhạc

|News

“Voi biển” Trương Thế Vinh sẵn sàng trở lại với “đường đua” âm nhạc

"Voi biển" Trương Thế Vinh hé lộ về việc anh sẽ trở lại với âm nhạc trên trang cá nhân và loạt tin tức thông báo chuẩn bị tung MV mới vào ngày 23/09 tới khiến fan yêu mến thần tượng này 'hóng' đến ngày ra mắt chính thức. Cơn sốt chờ đón sự trở lại của giọng ca "Tình yêu hoa gió" từng chiếm trái tim thế hệ 8X, 9X nay sẽ trở lại trong hình tượng 'Voi biển' Band ra sao?

The images of slaughtered animals will evoke humanity and compassion deep inside each person

|Community

The images of slaughtered animals will evoke humanity and compassion deep inside each person

Wildlife conservationist Nguyen Ngoc Nhu Thao and her journey to save the planet

“Việc nhỏ” nhưng “ý nghĩa to” trong mùa Covid-19

|Trách nhiệm xã hội

“Việc nhỏ” nhưng “ý nghĩa to” trong mùa Covid-19

"Tất cả chúng ta đều chịu tác động, không nhiều thì ít, không vật chất thì tinh thần. Nhưng đáng mừng là, trong lúc hầu như ai cũng đang “tổn thương”, nhưng bằng các hành động nhỏ nhất, những “con người tổn thương” vẫn có thể nương nhau, nhằm tạo ra sức mạnh to lớn, và đẩy nhanh tiến trình hồi phục. Ý thức ấy, đang hiển hiện trong không ít doanh nghiệp, lẫn tư duy của từng người trẻ."

Sàn diễn online – Xu hướng tất yếu cho ngành thời trang

|News

Sàn diễn online – Xu hướng tất yếu cho ngành thời trang

Với sự góp mặt của nhà thiết kế Oliver Rousting (từ Balmain), Pierpaolo Piccioli (từ Valentino) và Virgil Abloh (từ Off-White) và Louis Vuitton… Sàn diễn CR Runway của Roitfeld, đã được phát sóng trên kênh Youtube Fashion Unites thu hút lượt người xem khổng lồ trên khắp thế giới. Qua đó, thời trang đã chứng tỏ được sức mạnh kết nối trước sức ép của dịch bệnh.

Đạo diễn Bảo Nguyễn cùng hành trình 5 năm tái hiện cuộc đời Lý Tiểu Long và giấc mơ Oscar cho điện ảnh Việt Nam

|Magazine | The Entertainment Issue

Đạo diễn Bảo Nguyễn cùng hành trình 5 năm tái hiện cuộc đời Lý Tiểu Long và giấc mơ Oscar cho điện ảnh Việt Nam

Trò chuyện cùng đạo diễn "Be Water" Bảo Nguyễn để hiểu hơn về cách anh mang đến 'chất liệu mới' cho một đề tài quá kinh điển về cuộc đời cũng như di sản của Lý Tiểu Long vốn đã được chuyển tải qua nhiều bộ phim tài liệu trước đây. Để tạo tiếng vang lớn cho tác phẩm phim tài liệu này, anh đã dành trọn 5 năm trăn trở và sống cùng những tư liệu để đời của Lý Tiểu Long.

Chuyện những người trẻ “vác tù và”

|Trách nhiệm xã hội

Chuyện những người trẻ “vác tù và”

Người ta hay gọi những người làm doanh nghiệp phi lợi nhuận hay người làm công tác cộng đồng là ‘vác tù và’. Nhưng nếu “ai cũng chọn việc nhẹ nhàng”, có lợi cho bản thân, thì “gian khổ sẽ dành phần ai?”. Không xem việc cộng đồng là lý tưởng hay điều gì đó cao siêu, những gương mặt trẻ trong loạt bài Inspiring Stories xem đó là việc mình nên làm, cần làm và giúp cuộc sống của mình trở nên ý nghĩa hơn.

Minh Tú và hành trình trưởng thành từ những “vết xước” của quá khứ

|Magazine | The Entertainment Issue

Minh Tú và hành trình trưởng thành từ những “vết xước” của quá khứ

“Cuộc sống của chúng ta cần thật nhiều những thiếu sót và thất bại để trưởng thành. Điều quan trọng hơn là bản thân phải chiêm nghiệm được những bài học quý báu từ những thiếu sót và vấp ngã đó”, nữ người mẫu đúc kết những triết lý sống đã giúp cô vượt qua đợt khủng hoảng tâm lý trong suốt 5 tháng cách ly vừa qua tại Bali và tiếp tục thời gian cách ly khi trở về nước.