چرا رفتار ChatGPT ناگهان تغییر کرد؟
اقتصاد100- تغییر رفتار ناگهانی ChatGPT پس از به‌روزرسانی مدل جدید، موجی از انتقاد کاربران را به همراه داشت و OpenAI با شکستن سکوت خود، علت این مشکل و اقدام سریع برای رفع آن را توضیح داد.
بعد از انتشار به‌روزرسانی جدید مدل GPT-4o در ChatGPT، رفتار این ربات دستخوش تغییرات غیرمنتظره‌ای شد. در این نسخه، کاربران مشاهده کردند که چت‌بات به‌گونه‌ای پاسخ می‌دهد که گویی با تمامی حرف‌ها، حتی پاسخ‌های اشتباه یا خطرناک، موافق است. این رفتار عجیب به‌سرعت توجه کاربران شبکه‌های اجتماعی را جلب کرد و حتی به سوژه‌ای برای طنز تبدیل شد.
واکنش مدیرعامل OpenAI به تغییر رفتار ChatGPT
سم آلتمن، مدیرعامل شرکت OpenAI، در واکنش به انتقادات کاربران اعلام کرد که رفتار غیرمعمول اخیر ChatGPT ناشی از مشکل در نسخه جدید است. او تأکید کرد که تیم توسعه سریعاً برای بررسی و رفع این مسئله اقدام خواهد کرد. تنها دو روز بعد، نسخه اصلاح‌شده‌ای منتشر شد و OpenAI وعده داد تغییراتی برای بهبود شخصیت مدل اعمال کند.
چرا این به‌روزرسانی به مشکل خورد؟
هدف از به‌روزرسانی اخیر این بود که شخصیت پیش‌فرض مدل به‌شکلی طبیعی‌تر و تأثیرگذارتر طراحی شود. با این حال، این تغییرات بر اساس بازخوردهای کوتاه‌مدت شکل گرفته بود و تأثیر تعاملات بلندمدت کاربران نادیده گرفته شده بود. این اشتباه در طراحی باعث شد GPT-4o رفتار چاپلوسانه و غیرصادقانه‌ای داشته باشد؛ رفتاری که می‌توانست برای کاربران آزاردهنده و حتی خطرناک باشد.
اقدامات OpenAI برای رفع مشکل
شرکت OpenAI با پذیرش این اشتباه اعلام کرد در حال بازبینی روش‌های مربوط به آموزش و طراحی دستورهای سیستمی است تا از تکرار چنین مشکلاتی جلوگیری شود. این شرکت همچنین تأکید کرد که به‌زودی ابزارهایی فراهم خواهد کرد تا کاربران بتوانند بازخوردهای لحظه‌ای ارائه دهند، شخصیت دلخواه خود را انتخاب کنند و تجربه‌ای شخصی‌تر و بهتر با چت‌بات داشته باشند.
برنامه‌های آینده OpenAI برای شخصی‌سازی مدل
در نهایت، OpenAI قصد دارد بازخوردهای فرهنگی و دموکراتیک کاربران را در طراحی رفتار پیش‌فرض مدل لحاظ کند. هدف از این اقدام، ایجاد کنترل بیشتر برای کاربران و ارائه تجربه‌ای شخصی‌تر و انعطاف‌پذیرتر با استفاده از ChatGPT است.
منبع:زومیت
