ردیابی اطلاعات نادرست با ابزار هوش مصنوعی

نوشته Priyal Shah
Aug 2, 2023 در مبارزه با شیوع اطلاعات غلط و جعلی
The letters AI on a black background

این مطلب در اصل از سوی The Fix منتشر شده بود و با اجازه این نشریه، اینجا بازنشر می شود. برای آگاهی بیشتر از رویدادهای مربوط به رسانه ها در اروپا، مشترک خبرنامه آنها شوید.

تشخیص اطلاعات نادرست، امروزه یک مهارت کلیدی برای خبرنگاران به شمار می‌رود. روند راستی‌آزمایی را انسانها هدایت می‌کنند، اما تنها با قابلیتهای غیرخودکار نمی توان با حجم بالای اطلاعات نادرست مقابله کرد.

اینجاست که ابزارهای هوش مصنوعی می توانند مفید واقع شوند. لارنس دیریکس (Laurence Dierickx)، محقق دانشگاه بِرگِن که با تمرکز بر خبرنگاری و راستی آزمایی مبتنی بر هوش مصنوعی فعالیت می‌کند، می‌گوید «چندین طرح در حال شکل‌گیری هستند که به راستی آزمایان کمک خواهند کنند تا این فرآیندِ زمان‌بر را تسریع بخشند. یک ویژگی ذاتی راستی‌آزمایی این است که به زمان زیادی نیاز دارد.»

نشریه The Fix طیفی از ابزارها را که در شناسایی و رسیدگی به اطلاعات نادرست به خبرنگاران و راستی‌آزمایان کمک می‌کنند گردآوری کرده است. این ابزارها در چهار بخش اصلی دسته بندی شده‌اند: ابزارهایی برای متن، عکس، ویدیو و تشخیص فعالیت ربات‌ها.

ابزارهای هوش مصنوعی برای محتوای متنی

Exorde network یا شبکه اکسورد

اکسورد - Exorde پلتفرمی برای پردازش اطلاعات جهانی است که انتشار و وایرال viral شدن اطلاعات را در اینترنت تجزیه و تحلیل می‌کند.

روش کار این ابزار به این صورت است که اکسورد، یوآرال (URL یا نشانی وب)های ارسالی را که متنی است و به عنوان متن های مورد علاقه Exorde علامتگذاری شده، پیدا می‌کند. سپس، «حس و حال» آن ادعا و واکنشهای مردم به آن در سطح جهان، پردازش می‌شود. در مرحله پایانی، اِکسورد این اطلاعات را برای استفاده همگان بایگانی می‌کند.

FactCheck.org (نهادی برای راستی‌آزمایی)

این وبسایت، طرح مرکز سیاست عمومی آنِنبِرگ در دانشگاه پنسیلوانیای آمریکاست؛ مرکزی که ادعاهای سیاستگران را در سطح محلی، ایالتی و فدرال، راستی‌سنجی می کند. این بررسی‌ها، ادعاهای سیاسی و علمی را در برمی‌گیرد. خبرنگاران با دو گزینه این وبسایت به نام های Ask FactCheck و Ask SciCheck می توانند اطلاعات خود را راستی‌آزمایی کنند.

Factiverse (برای تسریع راستی‌آزمایی)

خبرنگاران با استفاده از ابزار هوش مصنوعی Factiverse، می توانند روند راستی آزمایی را سرعت ببخشند. بر اساس تحقیقی که در دانشگاه استاوانگِر (در نروژ) انجام شده، Factiverse، ویرایشگری مبتنی بر هوش مصنوعی برای خود تولید کرده که می‌تواند اطلاعات نادرست را در محتوا تشخیص دهد و در عین حال، منابع معتبر را معرفی کند. آنها همچنین یک بانک اطلاعاتی راستی‌آزمایی به نام FactiSearch و یک ابزار دیگر به نام Microfacts دارند که زمینه‌های محتوا و اطلاعات تخصصی را توضیح می‌دهد.

ClaimReview

ClaimReview یک سیستم برچسب گذاری است که با همکاری گوگل ساخته شده است. این ابزار به شناسایی و انتشار اخباری که راستی آزمایی شده اند کمک می کند تا این اخبار در صدر موتورهای جستجو و سایت های رسانه‌های اجتماعی نشان داده شوند. با این برچسب، ادعاهای راستی‌آزمایی شده همراه متن کوتاهی ظاهر می‌شوند که نشان دهنده اعتبار آنهاست.

بیشتر بخوانید: پیچیدگی مبارزه با اطلاعات نادرست در پی ایجاد تصاویر تولید شده با هوش مصنوعی\

ابزارهای هوش مصنوعی برای تصویر

دیریکس در تحقیقات خود دریافته که بسیاری از راستی آزمایان، پتانسیل هوش مصنوعی مولد را در تولید محتوای صوتی - تصویریِ نادرست، دست کم گرفته اند. وقتی پای محتوای تولید شده با هوش مصنوعی در میان باشد، ابزارهای جستجوی معکوس که قابل اعتماد هم هستند، نمی توانند نتایج قابل قبولی ارائه دهند. وی می افزاید: «کیفیت تصویرها و ویدیوهای تولید شده با هوش مصنوعی در حال افزایش است و تشخیص این نوع محتوا، دشوارتر خواهد شد.»

خبرنگاران می توانند از این ابزارها برای دست یافتن به واقعیت استفاده کنند:

ابزارهایی برای بررسی اِکسیف (EXIF)

فایل تصویری تعویض پذیر یا اِکسیف (EXIF) یک قالب استاندارد است که با تمام تصویرهایی که با دوربین‌های دیجیتال گرفته می شوند، می‌آید. این قالب، اطلاعاتی مثل نور، سرعت شاتر و تاریخ و مکانی را که تصویر در آن برداشته شده است، ذخیره می‌کند. هر گونه تغییر در تصویر اصلی، در مِتادیتای تصویر ثبت می‌شود. خبرنگاران با بررسی اِکسیف یک تصویر می توانند دریابند که آن تصویر دستکاری شده است یا نه. EXIF Data Viewer و Metadata2go دو ابزار آنلاین برای استخراج اکسیف تصویرها هستند. همچنین می‌توانید نرم افزار ExifTool by Phil Harvey را در کامپیوتر خود نصب کنید و مانند دو ابزار آنلاین از آن استفاده کنید.

TinEye

یک ابزار مفید دیگر برای راستی‌آزمایی تصویرها TinEye است. خبرنگاران می‌توانند از این ابزار برای جستجوی عکس‌های تکراری و پیدا کردن صفحاتی که تصویر قبلاً در آنها منتشر شده استفاده کنند و شیوه جستجوی معکوس را به‌کارگیرند.

ابزارهای هوش مصنوعی برای ویدیو

پلاگین راستی آزمایی - WeVerify

آخرین نسخه از پلاگین راستی آزمایی InVID-WeVerify، حاوی طیفی از ابزارها برای راستی آزمایی محتوای بصری است. این پلاگین، قابلیت هایی مثل CheckGIF (ابزاری برای بررسی تصویرهای فُرمت جی آی اف)، تجزیه و تحلیل محتوای تصویری، تشخیص نوری کاراکترها و توان مقایسه محتوا با یک بانک اطلاعاتی حاوی اطلاعات نادرستِ شناخته شده (Database of Known Fakes) را دارد.

The Glorious ContextuBot | Shared Nation

Glorious ContextuBot، ابزاری نوپاست که در مراحل ابتدایی تولید و تحول است، اما به تشخیص منبع اصلی فایل‌های صوتی کمک می‌کند. هدف این ابزار این است که با فن‌آوری انگشت نگاری، نه تنها منبع اصلی یک صوت را دریابد، بلکه زمینه های مربوط به آن را نیز پیدا کند. این ابزار به یافتن جایی که فایل صوتی در آن استفاده شده هم کمک می‌کند.

Truepic

خبرنگاران با استفاده از Truepic می‌توانند صحت محتوای بصری را تایید کنند. گزینه Truepic Display، منبع و تاریخچه محتوا را پیدا می‌کند و Truepic Lens، مِتادیتای فایل ها را نشان می‌دهد.

YouTube DataViewer - ابزاری برای دیدن داده‌های یوتیوب

این ابزار سازمان عفو بین‌الملل (Amnesty International) می تواند به استخراج متادیتای تمام ویدیوهای بارگذاری شده در یوتیوب کمک کند. کاربران همچنین می توانند تام‌نیل Thumbnail ویدیو را بیابند و آن را با گزینه جستجوی معکوس، بررسی کنند. 

ابزار‌های هوش مصنوعی برای بررسی فعالیت ربات‌ها

Botometer®

Botometer طرح مرکز نظارت بر رسانه‌های اجتماعی (OSoMe) در دانشگاه اندیاناست. این ابزار با دادن نمره به حساب‌های توییتر، تشخیص می‌دهد که این حساب‌ها واقعاً از سوی افراد (انسان‌ها) ایجاد شده و اداره می‌شوند، یا یک ربات پشت آنهاست (صفر به معنای حساب آدم واقعی و ۵ به معنای حساب رباتی است.)

به علاوه، این ابزار، حساب‌های رباتی را نیز به شاخه‌های گوناگون مثل «اتاق پژواک»، «دنبال‌کننده (فالوور) جعلی»، [امور] مالی، خودخوانده، «پیام‌های هرز یا Spam»  و «موارد دیگر» دسته بندی می‌کند.

Hoaxy

Hoaxy انتشار اطلاعاتی را ردگیری می کند که از سوی وبسایت‌هایی با کیفیت پایین با مدیریت انسانی همرسانی می‌شوند. خبرنگاران با این ابزار می توانند مسیر مجازی مطالب را ردیابی کنند. این ابزار همچنین با نمره دهی، میزان دست داشتن ربات‌ها و فن آوری و روند خودکاری را که در انتشار مقالات سهم داشته، تعیین می کند.

بیشتر بخوانید: استفاده از هوش مصنوعی در تهیه گزارش همزمان با حفظ اعتماد مخاطبان

پنج ابزار دیگر

Media Bias/Fact Check (ابزاری برای تشخیص سوگیری رسانه‌ها و راستی‌آزمایی)

این ابزار که به اختصار به آن MBFC می‌گویند منبعی است برای مراجعه راستی‌آزمایان و وبسایتهای خبری. این ابزار، وبسایت ها را بر اساس سوگیری، وابستگی سیاسی و صحت اطلاعات بررسی شده، رده بندی می‌کند. این ابزار تاکنون درباره اعتبار و ظرفیت ارائه واقعیت بیش از ۶۳۰۰ منبع رسانه ای گزارش‌های مفصلی تهیه کرده است.

Hamilton 2.0 Dashboard

این ابزار که از سوی نهادی به‌نام «اتحاد برای تأمین دموکراسی» (Alliance for Securing Democracy) در اندیشکده (German Marshall Fund of the USA) ساخته شده، در برجسته کردن پیام‌های رسانه‌ای و روایت‌هایی که از سوی حکومت‌های روسیه، چین و ایران ترویج می‌شوند، تخصص دارد. گزینه ASD Social Data Search آنها به خبرنگاران این توانایی را می‌دهد که توییت‌های مورد نیاز خود را آسانتر بیابند.

The Factual

الگوریتم The Factual، وبسایت‌ها را بر اساس چهار معیار رده بندی می‌کند: کیفیت وبسایت، تخصص نویسنده، کیفیت منابع و لحن مطلب. بر اساس این مؤلفه ها، به مقالات از ۱٪ تا ۱۰۰٪ نمره داده می شود و گرفتن نمره ۵۰٪ و بالاتر از آن، نشان‌دهنده یک مقاله آموزنده بودن مطلب و پایین‌تر از ۵۰٪ به معنای غیرآموزنده بودن آن است.

Climate Feedback

این ابزار، تنها برای رمزگشایی اطلاعات نادرست مربوط به تغییرات اقلیمی کار می کند. اطلاعات درست، از سوی شبکه‌ای جهانی متشکل از دانشمندان ارائه می شود. این وبسایت، توضیحات دانشمندان را درباره اطلاعات نادرستی که در مقالات خبری و ادعاهای گوناگون در اینترنت مطرح می شوند، دربردارد.

Tank Classifier

این ابزار، یک نمونه خوب دیگر از ابزارهای مبتنی بر هوش مصنوعی است که به واکاویی اطلاعات نادرست کمک می‌کند. دیریکس می‌گوید این ابزار «به راستی‌آزمایان امکان می‌دهد در مبحث جنگ، تشخیص دهند که مثلاً فلان تانک از کدام کشور آمده‌است.» این ابزار در حال حاضر می‌تواند تنها ۲۰ نوع خودرو/موتر نظامی را دسته‌بندی کند.

 

 

تصویر از آنسپلش، عکاس: Markus Spiske