مقابله OpenAI با ۱۰ کمپین مخرب در هوش مصنوعی
OpenAI از ابتدای سال 2025 تاکنون موفق به شناسایی و متوقف کردن حداقل 10 کمپین مخرب هوش مصنوعی شده است که به‌طور عمده توسط دولت‌های چین، روسیه و ایران اجرا شده‌اند و سوءاستفاده از ChatGPT را هدف قرار داده‌اند.
شرکت OpenAI در گزارشی جدید، از موفقیت خود در متوقف کردن دست‌کم ۱۰ کمپین مخرب که با سوءاستفاده از چت‌بات ChatGPT طراحی شده بودند، خبر داده است. این شرکت مدعی شده که برخی از این کمپین‌ها به کشورهای ایران، چین و روسیه مرتبط بوده‌اند.
شناسایی عوامل مخرب از سوی OpenAI
طبق گزارش «مقابله با سوءاستفاده‌های مخرب از هوش مصنوعی: ژوئن 2025»، این کمپین‌ها عمدتاً توسط عوامل دولتی یا گروه‌های وابسته به آنها اجرا شده‌اند. ۴ مورد از این کمپین‌ها منشأ چین داشته و شامل مهندسی اجتماعی، حملات سایبری و تلاش برای نفوذ به فضای آنلاین بوده‌اند.
در یکی از این موارد با عنوان «Sneer Review»، گروهی از کاربران چینی تلاش کردند با ارسال نظرات منفی درباره بازی «Reversed Front» که پیامی ضدحزب کمونیست چین داشت، اعتبار آن را خدشه‌دار کنند. این عملیات با انتشار مقالات ساختگی ادامه یافت تا ضمن تخریب تصویر بازی، پیام‌هایی برای کاهش اعتبار استقلال تایوان منتقل کند.
کمپین‌های روسی و تلاش برای نفوذ
در کمپینی دیگر که «Helgoland Bite» نام دارد، عوامل روسی با استفاده از ChatGPT محتوایی به زبان آلمانی تولید کردند که به نقد ناتو و ایالات متحده پرداخت. هدف این کمپین تأثیرگذاری بر فضای انتخابات آلمان در سال 2025 بود.
همچنین عوامل مرتبط با ایران، محتواهایی به زبان‌های اسپانیایی و انگلیسی درباره سیاست‌های مهاجرتی آمریکا، مسائل استقلال اسکاتلند، مذاکرات ایران و آمریکا و اتحاد ایرلندی‌ها تولید کرده‌اند.
هدف قرار دادن فعالان و تأثیرگذاری بر فضای سیاسی
در یکی از اقدامات مهم، مهاجمان با استفاده از ChatGPT موفق به شناسایی فعالان مخالف و وبلاگ‌نویسان شدند. آنها پیام‌هایی سازمان‌یافته تولید کردند که به انتشار مطالب هماهنگ و حتی پرداخت پول به این افراد اشاره داشت.
کمپینی دیگر به نام «Uncle Spam» قصد داشت با تأثیرگذاری بر فضای سیاسی آمریکا، شکاف‌های سیاسی این کشور را تشدید کند. عوامل این کمپین حساب‌هایی ایجاد کرده بودند که محتواهای تفرقه‌انگیز درباره تعرفه‌های وارداتی و مسائل اجتماعی مانند حقوق سربازان بازنشسته منتشر می‌کردند.
مقابله با حملات فیشینگ
OpenAI همچنین موفق شد کمپین فیشینگ گروه هکری چینی «SweetSpecter» را که کارکنان این شرکت را هدف گرفته بودند، متوقف کند. این عملیات با همکاری شرکای امنیتی شناسایی و خنثی شد.
این شرکت در پایان هشدار داده است که هر چیزی که در اینترنت مشاهده می‌کنید، ممکن است از طرف فردی واقعی نباشد. حتی ممکن است فردی که در شبکه‌های اجتماعی با او بحث می‌کنید، بخشی از عملیاتی سازمان‌یافته برای ایجاد اختلاف و درگیری باشد.
