بی‌بی‌سی رد پای سازندگان خارجی ویدیوهای ضد مهاجرتی با هوش مصنوعی را پیدا کرد

تازه‌ترین ویدیو در صفحه فیس‌بوک «مردم بریتانیای کبیر» که ادعا می‌کند از منطقه یورکشایر اداره می‌شود، ۱/۳ میلیون بازدید داشته است؛ ویدیویی که در آن یک مرد سالخورده و سفیدپوست بریتانیایی در حال گریه کردن هنگام صحبت درباره حقوق بازنشستگی‌اش دیده می‌شود. در ویدیوهای دیگر، گزارشگرانی درباره «ابعاد کمرشکن مهاجرت انبوه» صحبت می‌کنند و از مخاطبان می‌پرسند آیا دلشان برای «بریتانیایی که زمانی می‌شناختیم» تنگ نشده است.

اما مشخص نیست که آیا سازنده این ویدیوها اصلا شناختی از بریتانیا دارد یا نه؛ چرا که در واقع این حساب کاربری را فردی در سریلانکا اداره می‌کند.

این صفحه یکی از ده‌ها حساب به‌هم‌پیوسته در فیس‌بوک و اینستاگرام است که گزارشگران برنامه پانوراما و پادکست تاپ کامنت بی‌بی‌سی شناسایی کرده‌اند. این حساب‌ها پست‌های ضد مهاجرتی تولیدشده با هوش مصنوعی درباره بریتانیا را برای مخاطبانی گسترده‌تر به اشتراک می‌گذارند، در حالی که سازندگان آن‌ها اغلب صدها یا هزاران کیلومتر دور از بریتانیا زندگی می‌کنند.

بر اساس اطلاعات ابزارهای شفافیت فیس‌بوک، گفت‌وگو با تولیدکنندگان محتوا و نشانه‌های دیگری مانند شیوه نگارش یا حساب‌هایی که دنبال می‌کنند، مشخص شده است که برخی از این افراد در سریلانکا، آمریکا و بخش‌هایی از اروپا مستقر هستند و برخی دیگر در ویتنام و مالدیو فعالیت می‌کنند یا با ایران و امارات متحده عربی ارتباط دارند.

یک کارشناس به بی‌بی‌سی گفت تحقیقات نشان می‌دهد که توانایی مردم در تشخیص ویدیوهای جعلی ساخته‌شده با هوش مصنوعی بسیار کمتر از تصور خودشان است و هرچه بیشتر با چنین محتوایی مواجه شوند، احتمال اینکه به مطالب معتبر و واقعی نیز بی‌اعتماد شوند، بیشتر می‌شود.

صادق خان، شهردار لندن، که تحقیقاتی را درباره تصاویر تولیدشده با هوش مصنوعی سفارش داده - تصاویری از لندن رو به افول که به گفته او به اعتبار بین‌المللی شهر لطمه می‌زند - می‌گوید برخی از گردانندگان این حساب‌ها تنها با انگیزه‌های مالی فعالیت می‌کنند، اما برخی دیگر مورد حمایت دولت‌های متخاصمی مانند روسیه و ایران هستند.

تایید ادعاهای مربوط به دخالت مستقیم دولت‌ها دشوار است، اما تعدادی از این حساب‌ها مطالبی همسو با دولت‌های روسیه و ایران منتشر می‌کنند. صاحبان این حساب‌ها به تلاش‌های بی‌بی‌سی برای تماس با آن‌ها پاسخی ندادند.

چندین حساب کاربری، ظاهرا برای افزایش بازدید و تعامل، موضوع صفحات خود را تغییر داده‌اند و از تولید محتوا درباره موضوعاتی مانند «عظمت را به آمریکا بازگردانیم» یا «زندگی در آمریکا»، به استفاده از هوش مصنوعی برای ترویج روایت‌های ضد مهاجرت روی آورده‌اند. برخی از آنها گاه محتوایی منتشر می‌کنند که نگاه همدلانه‌تری نسبت به مهاجران دارد.

به گفته ساندر فان‌ دِر لیندن، استاد روان‌شناسی اجتماعی در دانشگاه کمبریج، دولت‌ها و گروه‌های دیگر تلاش می‌کنند با استفاده از حساب‌های جعلی مبتنی بر هوش مصنوعی، افکار عمومی را هدایت کنند. او این روند را «نسخه جدید عملیات نفوذ» توصیف کرد.

او گفت افرادی که در خارج از بریتانیا زندگی می‌کنند به راحتی می‌توانند خود را شهروند بریتانیا جا بزنند، زیرا خرید حساب‌های کاربری شبکه‌های اجتماعی که در اصل در بریتانیا ساخته شده‌اند، نسبتا ارزان است.

این حساب‌ها با ویدیوهای جعلی ساخته‌شده با هوش مصنوعی - از جمله تصاویری از مجلس عوام که در آن مردانی با لباس سنتی عربی نشسته‌اند و قوانین شریعت را تحمیل می‌کنند - صدها هزار بازدید به دست آورده‌اند. برخی دیگر شامل مصاحبه‌های ساختگی با زنانی محجبه است که درباره لزوم «اسلامی‌تر شدن» بریتانیا صحبت می‌کنند.

تصویری که این ویدیوها از بریتانیا ارائه می‌دهند، گاه متناقض است. در بخشی از محتوای پربازدید، افول بریتانیا به مهاجرت مسلمانان نسبت داده می‌شود، اما هم‌زمان چندین ویدیو از همان سازندگان، کشورهای اسلامی را در مقایسه با بریتانیا، مکان‌هایی آرمانی و مطلوب نشان می‌دهد.

ما با دو نفر که خود را گردانندگان یک حساب کاربری با بیش از ۲۰ میلیون بازدید معرفی کردند، گفت‌وگو کردیم؛ حسابی که محتوایی از این دست منتشر می‌کند و در آن، ویدیوهای ساخته‌شده با هوش مصنوعی، تصویری از شهرهای مختلف بریتانیا در سال ۲۰۵۰ از زاویه دید عابران ارائه می‌دهد.

در این ویدیوها، لیورپول، لندن، بیرمنگام و مناطقی نامشخص در انگلستان، مکان‌هایی کثیف و پر از زباله تصویر می‌شوند، با خیابان‌هایی که در آن افرادی با لباس سنتی اسلامی و حجاب حضور دارند. روی دکه‌ها واژه «حلال» دیده می‌شود و تزییناتی با نوشته‌هایی به خط عربی نصب شده‌اند. صحنه‌هایی از آتش‌سوزی و هرج‌ومرج هم در این تصاویر دیده می‌شود.

در تعدادی از این ویدیوها شهرهای خارجی مانند نیویورک و واشنگتن و همچنین برخی پایتخت‌های اروپایی نیز به شکلی مشابه به تصویر کشیده شده‌اند.

وقتی از سازندگان این محتوا پرسیده شد آیا ویدیوهایشان باعث دامن زدن به شکاف‌های اجتماعی می‌شود یا نه، آنها پاسخ دادند: «محتوای ما هدف روشنی دارد. می‌خواهیم مردم و رای‌دهندگان را از آنچه به باور ما ممکن است در دهه‌های آینده و در صورت ادامه روندهای کنونی اجتماعی و فرهنگی رخ دهد، آگاه کنیم.»

آن‌ها گفتند فرسنگ‌ها دورتر از شهرهایی که در ویدیوهایشان به تصویر می‌کشند زندگی می‌کنند و خود را فعال در یک کشور اروپایی توصیف کردند که در آن «احساس ناامنی ملموس‌تر شده است».

آن‌ها گفتند که کشورهایی مانند ایران را به شکلی آرمانی به تصویر می‌کشند تا «موجب بحث و تفکر درباره تکامل سیاسی و فرهنگی شوند».

این دو نفر با رد این موضوع که انگیزه‌شان کسب درآمد از طریق شبکه‌های اجتماعی بوده است، گفتند که از حساب کاربری خود درآمدزایی نمی‌کنند. آن‌ها مدعی شدند با «سیاستمداران مختلفی» که حامی محتوای آن‌ها هستند در ارتباطند، اما از فاش کردن نام این چهره‌ها خودداری کردند.

پژوهش‌های شهرداری لندن نشان می‌دهد تعداد چنین پست‌هایی در شبکه‌های اجتماعی طی دو سال گذشته به شدت افزایش یافته و دو انگیزه اصلی را برای این روند شناسایی کردند.

صادق خان، شهردار لندن، به بی‌بی‌سی گفت: «با بازیگران دولتی روبه‌رو هستیم.» او گفت شواهدی از فعالیت روسیه و چین و همچنین حامیان راست افراطی جنبش «عظمت را به آمریکا بازگردانیم» یا همان ماگا در آمریکا مشاهده شده است.

او افزود: «دوم اینکه شاهد افرادی و شرکت‌هایی هستیم که می‌خواهند از شکاف و تفرقه کسب درآمد و سود کنند.»

شهردار لندن پذیرفت که این شهر با «چالش‌هایی» روبه‌رو است، اما تاکید کرد «دروغ‌های تولیدشده با هوش مصنوعی» تاثیر واقعی دارند و برخی گردشگران، دانشجویان خارجی و سرمایه‌گذاران را از آمدن به لندن منصرف می‌کنند.

او گفت: «نگرانی من این است که آدم‌های عادی و شریف این دروغ‌ها را باور کنند؛ این تصویر آخرالزمانی از لندنِ رو به افول، اینکه شهر خطرناکی است و قانون و نظمی وجود ندارد.»

به گفته صادق خان، شرکت‌های صاحب شبکه‌های اجتماعی باید برای مقابله با این نوع اطلاعات نادرست اقدامات بیشتری انجام دهند؛ از جمله اصلاح الگوریتم‌ها برای جلوگیری از «پاداش دادن به محتوای تفرقه‌افکن و سمی» و همچنین مشخص کردن واضح محتوای تولیدشده با هوش مصنوعی.

شرکت متا، مالک فیس‌بوک و اینستاگرام، اعلام کرد که «رفتارهای هماهنگ‌شده و غیرواقعی» را جدی می‌گیرد و «تیم‌های تخصصی جهانی به طور مداوم برای شناسایی و مختل کردن این فعالیت‌ها کار می‌کنند».

سخنگوی متا گفت: «ما علیه هرگونه محتوا یا حسابی که استانداردهای جامعه ما را نقض کند اقدام خواهیم کرد. این استانداردها درباره هرگونه محتوایی اعمال می‌شود، چه تولید هوش مصنوعی و چه ساخته انسان.»

ما همچنین با افرادی صحبت کردیم که پشت چندین حساب کاربری قرار دارند و ویدیوهای پیش‌بینی سال ۲۰۵۰ را بازنشر یا تبلیغ می‌کنند. این گفت‌وگوها نتیجه‌گیری شهرداری لندن را تایید می‌کند که برخی از این افراد به دنبال جذب کلیک و سود مالی هستند.

یکی از آنها گفت: «بیشتر پست می‌گذارم تا واکنش بگیرم، چون این کار باعث افزایش دنبال‌کننده و درآمدم می‌شود.» او از طریق برنامه درآمدزایی اینستاگرام و تبلیغاتی که به مخاطبانِ ویدیوهایش نمایش داده می‌شود پول دریافت می‌کند.

فرد دیگری گفت با حساب‌هایی که «درباره مسائل مشابهی موضع‌گیری می‌کنند» هماهنگ است، اما تاکید کرد فعالیت آنلاین او «به هیچ‌وجه انگیزه سیاسی ندارد». او گفت هدف آن‌ها این است که حساب‌های دیگر محتوایشان را بازنشر کنند «تا هر چه بیشتر جلب توجه کنند».

با این حال، برخی از افرادی که حساب‌هایی با محتوای مشابه اداره می‌کنند و با «میهن‌پرستان جعلی» بریتانیایی در تعامل هستند، در خود بریتانیا زندگی می‌کنند.

فردی که صفحه‌ای از منطقه وست میدلندز را اداره می‌کند و درباره «بازگرداندن عظمت گذشته بریتانیا» مطلب منتشر می‌کند، به ما گفت با حساب‌های دیگری برای پیشبرد هدف سیاسی مشترک هماهنگ است. او گفت در اینستاگرام گروهی دارند که در آن تصمیم می‌گیرند چه چیزی در چه زمانی منتشر شود.

او گفت حساب‌هایی که با آنها همکاری می‌کند در هند، پاکستان، سنگاپور، استرالیا و نیوزیلند مستقر هستند.

پروفسور فان‌ در لیندن از دانشگاه کمبریج گفت صنعت «جعلیات سفارشی» در حال گسترش است و در آن «بازیگران و اینفلوئنسرهای اجاره‌ای، خود را شهروندان عادی جا می‌زنند تا برای یک دستور کار خاص حمایت مصنوعی ایجاد کنند». این کار معمولا با استفاده از محتوای تولیدشده با هوش مصنوعی و ربات‌هایی انجام می‌شود که هدفشان افزایش بازدید و تعامل است.

ایوان مک‌درموت ریس، استاد حقوق در دانشگاه کوئینز بلفاست که تاثیر دیپ‌فیک‌ها بر اعتماد عمومی را بررسی کرده، گفت پژوهش‌ها نشان می‌دهد مردم در تشخیص محتوای جعلی چندان موفق نیستند و میزان دقت آنها حدود ۵۵ درصد است.

او افزود تحقیقات همچنین نشان می‌دهد مردم معمولا تصور می‌کنند بسیار بهتر از واقعیت می‌توانند محتوای جعلی را تشخیص دهند.

نظرهای منتشرشده زیر این ویدیوهای تولیدشده با هوش مصنوعی نشان می‌دهد برخی کاربران واقعی تحت تاثیر آنها قرار گرفته‌اند. زنی زیر یکی از ویدیوها نوشته بود «ادامه بده»، و فرد دیگری نوشته بود «هرگز عقب‌نشینی نکن. بایست و هر کاری لازم است انجام بده». این واکنش‌ها زیر ویدیویی منتشر شده بود که مردی را در تجمعی علیه ورود مهاجران با قایق نشان می‌داد.

این ویدیو در صفحه فیس‌بوکی «بریتانیا امروز» منتشر شده بود که بر اساس اطلاعات ابزارهای شفافیت متا، از سریلانکا اداره می‌شود.

خانم مک‌درموت ریس گفت: «هرچه مردم بیشتر محتوای تولیدشده با هوش مصنوعی ببینند، توانایی‌شان برای تشخیص واقعیت از خیال کمتر می‌شود و در نتیجه احتمال بی‌اعتمادی آنها به محتوای واقعی بیشتر خواهد شد.»

او افزود: «نباید تشخیص اینکه چه چیزی واقعی است و چه چیزی نیست فقط بر دوش مردم عادی گذاشته شود.»

اما پروفسور فان در لیندن هشدار داد تحقیقات همچنین نشان می‌دهد بسیاری از مردم اساسا اهمیتی نمی‌دهند که محتوا با هوش مصنوعی ساخته شده یا نه.

او گفت: «تا زمانی که محتوا با هویت و جهان‌بینی آنها همخوانی داشته باشد، اغلب آن را تایید می‌کنند و با دیگران به اشتراک می‌گذارند، چون این کار نوعی همسویی با یک دستور کار بزرگ‌تر را نشان می‌دهد.»

همان‌طور که یکی از کاربران زیر صفحه «مردم بریتانیای کبیر» نوشته بود: «احتمالا با هوش مصنوعی ساخته شده، اما واقعیت این است که درباره همه چیز حق دارد.»