محتوای جعلی، سد راه حقیقت در فضای آنلاین

به گزارش تور ارمنستان، شرکت های تکنولوژی سال هاست با مسائل زیادی مواجهند و هیچ الگوریتم ساده ای برای تشخیص محتوای تولیدی انسان با هوش مصنوعی وجود ندارد. از سوی دیگر، شرکت های فناورانه با حذف محتواهای مشکوک یا هر ممنوعیتی، کار را برای انسان سخت تر می کنند.

محتوای جعلی، سد راه حقیقت در فضای آنلاین

تابستان سال گذشته ویدئویی از مارک زاکربرگ منتشر شد. مدیرعامل فیس بوک و اینستاگرام در این ویدئو درباره فناوری های تازه اظهار نگرانی کرد. به گفته مارک زاکربرگ، کنترل میلیاردها انسانی که داده ها را می دزدند، کار سختی است.

براساس یافته های شرکت فیس بوک، این کمپانی و دیگر شرکت های قدرتمند تکنولوژی، سیاستگذاری مناسبی برای حرکات خشونت آمیز یا دزدی های اینترنتی ندارند. این بررسی ها نشان می دهد شرکت های فناوری بزرگ آمادگی لازم برای مقابله با حمله رسانه های جعلی را ندارند.

رسانه های جعلی که آن را به نام دیپ فیک(deepfakes) می شناسند، آسیب زیادی به پلتفرم های تکنولوژی می زند. نکته قابل تامل درباره دیپ فیک ها این است که در پلتفرم ها نفوذ می کنند و این مسئله تنها در خصوص فیس بوک صدق نمی کند. دیپ فیک ها به طرز عجیبی کنترل ناپذیرند.

متعادل سازی سخت دیپ فیک ها، نه تنها به دلیل سختی تشخیص آنها بلکه به دلیل گستردگی شان است. دیپ فیک ها هر محتوایی را تحت تاثیر قرار می دهند. آنها به عکس ها، تصاویر ویرایش شده و ویدئوها آسیب می زنند.

ممنوعیت دیپ فیک نیز مسائلی را به همراه دارد. چراکه ممنوعیت دیپ فیک به معنای حذف جوک های محبوب مردمی، سلفی های اسنپ چت و تصاویر چهره های مصنوعی است. منع سیاست های گمراه کننده نیز به جای کاهش مسائل سیاسی، آن را افزایش می دهد.

شرکت های تکنولوژی سال هاست با مسائل زیادی روبروند و هیچ الگوریتم ساده ای برای تشخیص محتوای تولیدی انسان با هوش مصنوعی وجود ندارد. از سوی دیگر، شرکت های فناورانه با حذف محتواهای مشکوک یا هر ممنوعیتی، کار را برای انسان سخت تر می کنند. شرکت هایی مانند فیس بوک، با توجه به تعداد کاربرانشان با مسائل بیشتری روبه رو می شوند.

تیم هوانگ (Tim Hwang) ، مدیر سابق مجله اخلاق و حاکمیت موسسه هوش مصنوعی در ام آی تی (Harvard-MIT)، به مجله خبری ورج ( The Verge ) می گوید: اگر شما دیپ فیک را به معنی هر ویدئو، تصویر یا محتوایی بدانید که توسط ماشین لرنینگ ادیت شده است، با حجم عظیمی از مجموعه ها روبرو می شوید. با این روش همه چیز در یک فرایند عدم قطعیت قرار می گیرد. دیپ فیک ها معضل بزرگی برای مرتب کردن رسانه هاست.

در سال های اخیر دیپ فیک مترادف با اطلاعات نادرست سیاسی بود، اما تعریف واقعی دیپ فیک بسیار گسترده تر است. پیش بینی می شود معضل محتوای جعلی در سال 2020 بدتر شود

به نظر می رسد پلتفرم های بزرگی چون فیس بوک و ردیت در هفته های گذشته سیاست هایی را برای متعادل سازی دیپ فیک ها اتخاذ کرده اند. این دو شرکت به جای آنکه تمام فرمت ها را در نظر بگیرند، محدوده کمتری را درنظر گرفته اند.

فیس بوک ادعا می کند با حذف رسانه های گمراه کننده از هوش مصنوعی یا یادگیری ماشین استفاده می کند. با این روش ها و راهکار هایی که هنوز درباره اش صحبتی نشده است، فیس بوک می تواند تا حدود زیادی دیپ فیک ها را تشخیص دهد.

شرکت ردیت(Reddit) درباره فرایند حذف رسانه های جعلی، اشاره ای به هوش مصنوعی نکرده است. این شرکت از روش های مستقل و انسانی به مسئله دیپ فیک ها می پردازد. به گفته مسئولان این شرکت، آنها همیشه زمینه هر محتوا را مد نظر قرار می دهند.

همانطور که بسیاری از شرکت های فناوری اشاره کرده اند، سیاست های مربوط به دیپ فیک ها پر از نقاط ضعف هستند. ویل اورموس (Will Oremus) نویسنده تکنولوژی معتقد است رسانه های جعلی در فیس بوک در موارد سیاسی استفاده شده اند. به عنوان مثال، سوزاندن پرچم آمریکا یا عکس های تماس با سیاستمداران از موارد ثابت شده دیپ فیک است.

بسیاری از گزارش ها در سال های اخیر دیپ فیک را مترادف با اطلاعات نادرست سیاسی می دانند، اما تعریف واقعی دیپ فیک بسیار گسترده تر است؛ همانطور که مسائلی که دیپ فیک به وجود می آورد. محققان حوزه فناوری اطلاعات پیش بینی می کنند معضلات مرتبط با محتواهای جعلی در سال 2020 بدتر خواهد شد.

در حالی که نسخه های قبلی نرم افزار دیپ فیک به کمی صبر و مهارت تکنیکی برای استفاده نیاز داشتند، نسل بعدی برنامه های دیپ فیک ساده تر ساخته و ارسال خواهند شد.

برنامه های کاربردی که از هوش مصنوعی برای ویرایش ویدئو استفاده می کنند، در سال 2020 متداول خواهند شد.

همینطور برنامه های زیادی برای طنزپردازی، توییت های مرتبط با نشان تجاری، قلدری و آزار در فضای مجازی با توجه به دیپ فیک ها ساخته شده است. ایده دیپ فیک به عنوان یک تهدید، حقیقت را در فضای آنلاین محو خواهد کرد .

منبع: مجله شنبه
انتشار: 1 فروردین 1399 بروزرسانی: 5 اردیبهشت 1399 گردآورنده: tour-armenia.ir شناسه مطلب: 185

به "محتوای جعلی، سد راه حقیقت در فضای آنلاین" امتیاز دهید

امتیاز دهید:

دیدگاه های مرتبط با "محتوای جعلی، سد راه حقیقت در فضای آنلاین"

* نظرتان را در مورد این مقاله با ما درمیان بگذارید