অনিয়ন্ত্রিত ডিপফেক প্রযুক্তি ডিজিটাল যুগে বয়ে আনতে পারে বড় ধরণের দুর্যোগ

প্রযুক্তি ভাবনা দীপান্বিতা সূত্রধর || 23 September 2018

ডিপফেক টার্ম আমাদের অনেকের কাছেই তেমন পরিচিত নয়। ডিপফেক প্রযুক্তি ব্যবহার করে এমন ভিডিও বা অডিও বানানো সম্ভব যা আসল মনে হলেও তা মূলত আসল হয় না। কৃত্রিম বুদ্ধিমত্তা আর মেশিন লার্নিং এর সাহায্যে তৈরি এইসব উন্নতমানের প্রযুক্তির সুবিধার সাথে সাথে খারাপ দিকও আছে কারণ মানুষ প্রায়শই এর অপব্যবহার করে বসে।


সম্প্রতি সময়ে ডিপফেক টার্ম আমাদের অনেকের কাছেই তেমন পরিচিত নয়। ডিপ লার্নিং আর কৃত্রিম বুদ্ধিমত্তা নিয়ে অনেক বেশি গবেষণার কারণে এসব প্রযুক্তি ব্যবহার করে অনেক ধরণের প্রোডাক্ট তৈরি হচ্ছে। এখন বিভিন্ন মোবাইল অ্যাপ থেকে শুরু করে শিল্পখাতে ব্যবহৃত যন্ত্রপাতি- সবকিছুতে ব্যবহার করা হচ্ছে কৃত্রিম বুদ্ধিমত্তা। সুবিধার সাথে সাথে খারাপ দিকও আছে এই ধরণের উন্নত প্রযুক্তির। 
বিভিন্ন সামাজিক যোগাযোগ মাধ্যম যেমন ফেসবুক, ইন্সটাগ্রাম ছবি তোলার ফিল্টার কিংবা অন্যান্য বিনোদন মাধ্যমে ডিপফেক প্রযুক্তি ব্যবহার করে চেহারা পরিবর্তন বা ফেস সোয়াপ করা হয়। এর মাধ্যমে ইন্সটাগ্রাম বা স্ন্যাপচ্যাট ব্যবহারকারীরা বিখ্যাত তারকাদের চেহারা নিজের চেহারায় বসিয়ে ছবি পোস্ট করে। অনেক সময় মজার ছলে কিংবা অনেকে শখ করে রাজনীতিবিদদের চেহারা কোন হাস্য রসাত্মক ভিডিও তে যুক্ত করে মজার ভিডিও বানিয়ে সামাজিক যোগাযোগ মাধ্যমে প্রকাশ করে। কিন্তু এই ডিপফেক প্রযুক্তি এখন আর মজা বা বিনোদনের জায়গায় নেই। এই ফিল্টার তৈরিতে যে প্রযুক্তি ব্যবহৃত হয়েছে সেইধরণের প্রযুক্তির অপব্যবহার করে মানুষ বিভিন্ন ধরণের আপত্তিকর, হিংসামূলক ভিডিও বানিয়ে অরাজকতার সৃষ্টি করছে অনেকে। 
জেনেরেটিভ অ্যাডভারসেরিয়াল নেটওয়ার্ক ব্যবহার করে মূলত ডিপফেক কাজ করে। দুইটা মেশিন লার্নিং এর মডিউল সমান্তরালে ডিপফেক ভিডিওগুলো বানায়। একটি মেশিন লার্নিং মডিউল প্রথমে একটা ডাটা সেট আসল ছবি থেকে কপি করতে থাকে এবং আর একটা মডিউল কপি ভার্শনটি কতটুকু নিখুঁত হল তা পরীক্ষা নিরীক্ষা করে। মেশিন লার্নিং মডিউলে ডাটা সেট যত বড় হবে সেটির কপি করা তত সহজ। তাই হলিউডের বিভিন্ন তারকাদের আর রাজনীতিবিদদের ছবি আর ভিডিও অনেক সহজলভ্য হওয়াতে তাদের চেহারা দিয়ে ডিপফেক বানানো অনেক সহজ।
ডিপফেক দিয়ে বানানো কোন ভিডিও সহজে খালি চোখে দেখে বুঝতে পারা অনেক কঠিন। আর এই ধরণের ভিডিও এমনভাবে বানানো হয় এটিকে সহজে কোন প্রযুক্তি ব্যবহার করে বের করার মত প্রযুক্তি এখনো আবিষ্কৃত হয়নি। ডিপফেক প্রযুক্তি ব্যবহার করে বানানো ভিডিও কিংবা আলোকচিত্র শনাক্ত করার জন্য ভবিষ্যতে ডিজিটাল ফরেন্সিক বিজ্ঞান ব্যবহার করতে হবে। যুক্তরাষ্ট্রের ডিফেন্স অ্যাডভান্সড রিসার্চ প্রজেক্টস এজেন্সি (ডারপা) ডিপফেক নির্মিত ভিডিও শনাক্ত করার জন্য বেশ চেষ্টা চালাচ্ছে। আশা করা যায় খুব শীঘ্রই ডিপফেক সমস্যার সমাধান আসবে এবং ডিজিটাল প্ল্যাটফর্মে কোন বড় ধরণের অনাকাঙ্ক্ষিত ঘটনা ঘটার আগেই এই সমস্যা এড়ানো সম্ভব হবে।

Unchecked deepfake videos or audios may cause disaster in digital world

Tech Dipanwita Sutradhar on 23 September 2018

Deepfakes are fake videos or audio recordings that look and sound just like the real thing. This is the result of numerous research on deep learning or machine learning. Yet, these kind topnotch technologies have a disadvantage because wicked people make them work in that way.


The term Deepfakes is not that much popular among people. Basically, deepfakes are fake videos or audio recordings that look and sound just like the real thing. Deep learning and artificial intelligence have led many researchers to create a lot of products using these technologies. Artificial intelligence and machine learning are now being used in everything from different mobile apps to industrial equipment. These kind topnotch technologies have a disadvantage because wicked people make them work in that way.  
Numerous social media such as Facebook, Instagram, and Snapchat have photo filter which is being made by using deepfake technology, change appearance or swap the face. Instagram or Snapchat users post pictures of them and they swap their face with any person’s photo of their phone or any celebrities. Until now, deepfakes have been limited to amateur hobbyists who usually put celebrities' faces on porn stars' bodies and making politicians say funny things. 
But this deepfake technology is no longer a matter of fun or entertainment anymore. Many toxic people are creating chaos by creating offensive, abusive and violent videos by using deepfakes. It may create serious family problems as well as political issues. 
Deepfake mainly works using Generative Advertising Network (GAN). Two machine learning modules work in parallel for generating deepfake made videos. One machine learning model sequences a data set and then creates video copies, while the other attempts to identify the falsifications. The deepfaker creates forged images and videos until the other model can't detect the forged version. 
It is very difficult to detect deep-faked video. Yet, amateurish deepfakes can be detected by the naked eye, deepfakes generated by GANs are getting better all the time- that is the problem. In future, we will have to rely on digital forensics for detecting deepfakes and to remove it from social media sites or websites if possible. The Defense Advanced Research Projects Agency (DARPA) is trying to invest a lot to identify the videos used by deepfake. It is expected that soon the deepfake videos and images issue will be solved before it is too late and causing a digital famine.