تصمیم‌گیری هوش مصنوعی برای شما؛ واقعیت پنهان پشت هر کلیک

نگار علی، غزال زیاری- بخش اول گفت‌وگوی ما با حمیدرضا کشاورز، مهندس یادگیری ماشین و سخنران TEDx، به بررسی تاثیرات روزافزون هوش مصنوعی بر زندگی روزمره اختصاص داشت. در آن بخش مفاهیمی چون نقش مدل‌های زبانی در پزشکی، چالش‌های مرتبط با امنیت داده‌ها و دشواری‌های حریم خصوصی مورد بحث قرار گرفت. کشاورز همچنین تفاوت‌های بین پردازش ماشینی و انسانی را تشریح و تاکید کرد که حتی پیشرفته‌ترین مدل‌ها نیز ممکن است با خطا مواجه شوند، به‌ویژه در مواردی که ورودی اطلاعات ناقص یا دارای عدم‌توازن باشد.

این‌بار در بخش دوم این گفت‌وگو، قدم به عرصه‌هایی می‌گذاریم که از یک سو نشان‌دهنده توانمندی‌های هوش مصنوعی هستند و از سوی دیگر تهدیدهایی را نمایان می‌کنند. مباحثی چون چالش‌های حقوقی مالکیت معنوی، سوءاستفاده از داده‌های شخصی و تاثیر شکاف دیجیتال جهانی بر توسعه مدل‌های هوش مصنوعی، از جمله مواردی است که در این قسمت مورد بررسی قرار می‌گیرد. اگر کنجکاوید بدانید آینده فناوری هوش مصنوعی به کدام سو حرکت می‌کند و چه تمهیداتی باید امروز برای ساخت فردایی ایمن‌تر اندیشیده شود، ادامه مطلب را از دست ندهید.

چالش‌های اطلاعات شخصی در دنیای هوش مصنوعی

از گفته‌های کشاورز در بخش اول مشخص شد که مدل‌های هوش مصنوعی گاهاً نقش هدایتگر تصمیم‌گیری را ایفا می‌کنند. اما این پرسش مطرح می‌شود: آیا می‌توان به عملکرد دقیق این مدل‌ها اعتماد داشت؟ کشاورز در پاسخ به این سوال می‌گوید: «مدل‌ها در کنار ما هستند و تلاش می‌کنند ما را به سمت تصمیم‌گیری صحیح هدایت کنند، اما نباید تصور کنیم پردازش آن‌ها کاملاً بدون نقص است. به‌ویژه در پردازش تصویر، چون نوع استاندارد، زاویه و کیفیت تصویر می‌توانند نتایج متفاوتی ارائه دهند. حتی ممکن است دو تصویر از یک شیء اما از زوایای مختلف داده شود و مدل خروجی‌های متفاوتی تولید کند. البته مدل‌های تخصصی‌تر معمولاً عملکرد دقیق‌تری دارند.»

موضوع تحلیل تصاویر ما را به بخش حساس‌تری می‌کشاند: اطلاعات حساسی که کاربر به این مدل‌ها ارائه می‌دهد، مانند شماره ملی یا داده‌های پزشکی. کشاورز در این باره عنوان می‌کند: «بزرگ‌ترین خطر این است که بر اساس اطلاعات شما یک پروفایل ساخته شود؛ پروفایلی که می‌تواند برای اهداف مختلفی از تبلیغات هدفمند گرفته تا موارد دیگر، کاربرد داشته باشد. این مسئله در شبکه‌های اجتماعی نیز مطرح است، اما چالش آن در چت‌بات‌ها عمیق‌تر می‌شود. داده‌هایی که توسط شما وارد سیستم می‌شود، ممکن است در آموزش مجدد مدل مورد استفاده قرار گیرد. فرض کنید شماره ملی خود را در یک سند وارد کرده و آن را برای بررسی به چت‌بات داده‌اید. ممکن است این داده چند ماه بعد در پاسخ به کاربری دیگر نمایان شود. این موضوع به شدت نگران‌کننده است.»

وی درباره حرفه‌هایی مانند وکالت یا پزشکی نیز هشدار داده و می‌گوید: «چنین مشاغلی که با اطلاعات حساس سروکار دارند باید بیشتر مراقب باشند. استفاده از مدل‌های محلی (local models) مانند نسخه‌هایی از مدل Llama می‌تواند راه‌حل مناسبی باشد. این مدل‌ها فقط در دستگاههای محلی اجرا می‌شوند و داده‌ها در چرخه آموزش مدل قرار نمی‌گیرند.»

<

مالکیت معنوی در عصر هوش مصنوعی

یکی دیگر از مسائل مهم دنیای هوش مصنوعی، مالکیت معنوی است. کشاورز در این زمینه توضیح می‌دهد: «خوشبختانه بحث مالکیت معنوی در عصر دیجیتال و هوش مصنوعی در دانشکده‌های حقوق سراسر جهان به جدی‌ترین شکل ممکن پیگیری می‌شود. اما نگرانی‌ها فقط به استفاده بدون اجازه از مقالات یا اخبار اختصاصی محدود نمی‌شود. حتی ممکن است سبک هنری، صدای یک گوینده یا لحن یک هنرمند توسط مدل تقلید شود. ممکن است صدای کسی به طور مستقیم استفاده نشود، اما بازنمایی سبک و استایل او مسئله‌ساز شود. چنین مواردی قوانین مالکیت معنوی را با چالش مواجه می‌سازند.»

بحران چرخه داده‌ها و کارایی مدل‌ها

کشاورز درباره منابع آموزشی مورد نیاز مدل‌ها می‌گوید: «این مسئله زمانی بحرانی می‌شود که منابع اصلی آموزشی به پایان برسند. در چنین شرایطی، مدل‌ها شروع به بازخورد گرفتن از خودشان می‌کنند و وارد چرخه‌ای معیوب می‌شوند. این مشکل مشابه الگوریتم‌های پلتفرم‌های موسیقی مانند اسپاتیفای است؛ جایی که ابتدا موسیقی پیشنهاد شده بر اساس سلیقه کاربر است اما به مرور زمان، پیشنهادها محدود و تکراری می‌شوند.»

شکاف دیجیتال و رقابت جهانی بر سر تراشه‌ها

کشاورز در بخش دیگری از سخنان خود به نقش حیاتی تراشه‌ها اشاره می‌کند و می‌گوید: «توان پردازشی اهمیت بسیاری دارد. مثلاً ایده شبکه‌های عصبی عمیق از دهه ۹۰ میلادی مطرح بود، اما به‌دلیل محدودیت‌های پردازشی عملیاتی نشد. از سال ۲۰۱۲ با توسعه فناوری GPUها، مدل‌ها توانستند آموزش ببینند. امروزه دو مسیر همزمان در حال پیگیری است: افزایش توان پردازشی یا بهینه‌تر شدن الگوریتم‌ها.»

وی با اشاره به کشورهای فاقد دسترسی به تراشه‌های پیشرفته بیان کرد: «در کوتاه‌مدت، قطعاً کشورهایی که دسترسی به این تراشه‌ها ندارند، عقب می‌افتند. البته کشورهایی مانند چین با مدل‌هایی مثل DeepSeek و علی‌بابا نشان داده‌اند که در حال رقابت با آمریکا هستند. اما آینده هوش مصنوعی بسیار غیرقابل‌پیش‌بینی است. همان‌طور که ظهور ناگهانی ChatGPT همه را شگفت‌زده کرد، ممکن است در آینده جهش‌های مشابهی رخ دهد.»

انتشار مطالب مرتبط با هوش مصنوعی و تحلیل‌های حمیدرضا کشاورز در سرویس هوش مصنوعی خبرآنلاین ادامه دارد. با ما همراه باشید تا از جدیدترین دستاوردها و تحلیل‌ها در این حوزه مطلع شوید.

۲۲۷۲۲۷