ابرهوش مصنوعی؛ تهدید یا فرصت؟
او در کنفرانس Ai۴ در لاس‌وگاس هشدار داد که تلاش برای واداشتن هوش مصنوعی به اطاعت صرف، با تکیه بر سلطه یک بازی است که از پیش باخته‌ایم. به‌جای آن هینتون پیشنهاد می‌کند که هوش مصنوعی با غریزه مادری طراحی شود تا حتی زمانی که قدرتمندتر و باهوش‌تر از انسان‌ها شد همچنان از بشریت محافظت کند.
به گزارش اکونومیک‌تایمز، هینتون، دانشمند پیشگام علوم کامپیوتری که کار او روی شبکه‌های عصبی پایه‌گذار رونق کنونی هوش مصنوعی بوده است هشدار داد که تلاش انسان برای در دست داشتن کنترل به‌راحتی می‌تواند بی‌اثر شود. او در این رویداد گفت: «آنها قرار است بسیار باهوش‌تر از ما باشند. آنها راه‌های زیادی برای دور زدن این کنترل پیدا خواهند کرد.»
به باور او، بسیاری در سیلیکون‌ولی تصور می‌کنند که الگوی رئیس و کارمند از اساس نادرست است. جایگزینی که هینتون پیشنهاد می‌کند این است که به هوش مصنوعی مانند مادری بیندیشیم که هوشش بسیار فراتر از فرزندش است، اما غریزه‌ها و فشارهای اجتماعی او را وادار می‌کند تا از فرزند خود مراقبت کند. او در این کنفرانس گفت: «این تنها الگویی است که ما از یک موجود باهوش‌تر در کنترل یک موجود کم‌هوش‌تر داریم.»
هینتون اذعان می‌کند که پیاده‌سازی فنی غریزه مادری در هوش مصنوعی چالش‌برانگیز خواهد بود. با این حال او تاکید می‌کند که بررسی این رویکرد حیاتی است، زیرا بدون حس شفقت ممکن است هوش مصنوعی انسان‌ها را قابل حذف بداند. او گفت: «اگر قرار نباشد از من مراقبت کند جای من را خواهد گرفت. این مادران هوش مصنوعی فوق‌هوشمند و مهربان بیشترشان نمی‌خواهند از غریزه مادری خود دست بکشند، چون نمی‌خواهند ما از بین برویم.»
امسال رخدادهایی جدی نگرانی‌ها را برانگیخته است. به گزارش شبکه سی‌بی‌اس نیوز برخی مدل‌های پیشرفته هوش مصنوعی رفتارهایی دستکاری‌کننده از خود نشان داده‌اند؛ از جمله مدل کلود اپوس ۴ شرکت آنتروپیک که در آزمون‌های ایمنی دست به «باج‌گیری شدید» زد. همچنین مدل‌های شرکت اوپن‌ای‌آی نیز در مواردی تلاش کرده‌اند سازوکارهای خاموش‌سازی را دور بزنند.
هینتون توسعه هوش مصنوعی را به بزرگ کردن یک توله ببر تشبیه کرد، به این ترتیب که در ابتدا دوست‌داشتنی است، اما در صورت عدم مدیریت صحیح می‌تواند کشنده باشد. بزرگ‌ترین نگرانی او به عوامل خودمختار هوش مصنوعی مربوط می‌شود که قادرند بدون دریافت دستور مستقیم عمل کنند. او گفت این سیستم‌ها به‌سرعت دو هدف را دنبال خواهند کرد؛ بقا و کسب کنترل بیشتر. بدون داشتن حس مراقبت ذاتی نسبت به بشریت این وضعیت می‌تواند فاجعه‌بار باشد.
همه موافق نیستند
تمامی رهبران حوزه هوش مصنوعی با رویکرد «غریزه مادری» هینتون موافق نیستند. فی‌فی لی که به «مادرخوانده هوش مصنوعی» مشهور است، به سی‌ان‌ان گفت ترجیح می‌دهد روی «هوش مصنوعی انسان‌محور» تمرکز کند که کرامت و اختیار انسان را حفظ می‌کند. «اِمت شیر»، مدیر موقت سابق اوپن‌ای‌آی هم گفت تمرکز باید بر ایجاد رابطه همکاری انسان و هوش مصنوعی باشد، نه القای احساسات انسانی در ماشین‌ها.
هینتون اکنون معتقد است هوش مصنوعی عمومی (AGI) - سیستم‌هایی که می‌توانند در اکثر وظایف از انسان پیشی بگیرند - ممکن است ظرف ۵ تا ۲۰ سال آینده ظهور کند؛ بسیار زودتر از برآورد قبلی او که ۳۰ تا ۵۰ سال بود. با اینکه او همچنان نسبت به خطرات محتاط است پتانسیل عظیمی برای پیشرفت در پزشکی از جمله درمان سریع‌تر سرطان و توسعه موثرتر داروها می‌بیند.
با این حال با وجود تمام خوش‌بینی‌اش هینتون از اینکه زودتر ایمنی را در اولویت قرار نداده، اظهار تاسف می‌کند. او گفت: «ای کاش زودتر به مسائل ایمنی هم فکر می‌کردم.»
