OpenAI در گزارش جدیدی اعلام کرده از ابتدای 2025 تاکنون موفق شده دست‌کم 10 کمپین مخرب را که با سوءاستفاده از چت‌بات ChatGPT طراحی شده بودند، متوقف کند. این شرکت مدعی است ایران، روسیه و چین هم در این کمپین‌ها دست داشته‌اند.
طبق گزارش منتشرشده با عنوان «مقابله با سوءاستفاده‌های مخرب از هوش مصنوعی: ژوئن 2025»، بسیاری از این فعالیت‌ها را عوامل دولتی یا گروه‌هایی وابسته به دولت‌ها انجام داده‌اند.
توقف کمپین‌های مخرب هوش مصنوعی توسط OpenAI
۴ مورد از این کمپین‌ها منشأ چینی داشته‌اند و شامل عملیات مهندسی اجتماعی، تهدیدهای سایبری و نفوذ پنهانی به فضای آنلاین بوده‌اند. در یکی از این موارد که OpenAI آن را «Sneer Review» نامیده، گروهی از کاربران چینی با ارسال نظرات منفی درباره بازی «Reversed Front» که حاوی پیام‌هایی ضدحزب کمونیست چین بود، تلاش کردند اعتبار آن را زیر سؤال ببرند. سپس همین شبکه مقاله‌ای ساختگی در انجمن آنلاین منتشر کرد و مدعی شد این بازی با موجی از انتقادات مواجه شده تا به اعتبار آن و در کنارش استقلال تایوان خدشه وارد کند.
در کمپینی دیگر به نام «Helgoland Bite»، عوامل روسی با استفاده از ChatGPT محتوایی به زبان آلمانی تولید کرده‌اند که از ایالات متحده و ناتو انتقاد می‌کند. این گروه همچنین درباره انتخابات 2025 آلمان محتوای متنی منتشر کرده و دنبال تأثیرگذاری بر فضای سیاسی این کشور بوده‌اند.
OpenAI مدعی است عوامل تهدیدی که احتمالاً به ایران مرتبط بوده‌اند، توییت‌هایی به زبان اسپانیایی و انگلیسی درباره سیاست‌های مهاجرتی آمریکا، استقلال اسکاتلند، اتحاد مجدد ایرلندی‌ها و مذاکرات ایران و آمریکا تولید کرده‌اند.
در یکی از موارد مهم، مهاجمان با کمک ChatGPT فعالان مخالف و وبلاگ‌نویسان را شناسایی کرده‌اند، و پیام‌هایی ساخته‌اند که در آنها به انتشار هماهنگ مطالب در شبکه‌های اجتماعی و حتی پرداخت پول به این افراد اشاره شده است.
همچنین حساب‌های کاربری مرتبط با کمپینی به نام «Uncle Spam» که تلاش می‌کردند بر فضای سیاسی آمریکا تأثیر بگذارند، شناسایی و مسدود شده‌اند. در برخی موارد، کاربران چینی با ساخت حساب‌هایی که محتوای تفرقه‌انگیز درباره مسائل سیاسی آمریکا ازجمله تعرفه‌ها منتشر می‌کردند، سعی داشتند شکاف‌های سیاسی این کشور را تشدید کنند. آنها حتی صفحاتی شبیه انجمن‌های حمایتی مخصوص سربازان بازنشسته آمریکایی ساخته بودند تا اعتماد کاربران را جلب کنند.
OpenAI قبلاً نیز با کمپین فیشینگ گروه هکری چینی «SweetSpecter» مقابله کرده بود که کارکنان این شرکت را هدف گرفته بود. این حملات با همکاری شرکای امنیتی شناسایی و خنثی شدند.
OpenAI در پایان هشدار داده همه آنچه در اینترنت دیده می‌شود، الزاماً از طرف انسانی واقعی منتشر نشده است؛ بنابراین ممکن است حتی فردی که در شبکه‌های اجتماعی با او بحث می‌کنید، در واقع بخشی از عملیات سازمان‌یافته برای ایجاد اختلاف و درگیری باشد.
