توسط مدیر سایت### شکاف عمیق در مورد آینده هوش مصنوعی
در هفته جاری، اختلاف نظر شدیدی در مورد آینده هوش مصنوعی (AI) به وجود آمد، زیرا چهار دانشمند برجسته و فرابشرگرا در مورد این موضوع بحث کردند که آیا ساخت هوش مصنوعی عمومی (AGI) بشریت را نجات خواهد داد یا آن را نابود خواهد کرد.
این میزگرد که توسط سازمان غیرانتفاعی Humanity+ میزبانی میشد، الیزر یودکوفسکی، یکی از منتقدان سرسخت هوش مصنوعی را که خواستار توقف توسعه هوش مصنوعی پیشرفته شده است، در کنار فیلسوف و آیندهپژوه مکس مور، دانشمند علوم اعصاب محاسباتی اندرس ساندبرگ و ناتاشا ویتا-مور، رئیس افتخاری Humanity+، گرد هم آورد.
بحث آنها اختلافات اساسی در مورد این که آیا AGI میتواند با بقای انسان همسو شود یا این که ایجاد آن انقراض را اجتنابناپذیر میکند، آشکار کرد.
یودکوفسکی هشدار داد که سیستمهای هوش مصنوعی مدرن اساساً ناامن هستند، زیرا فرآیندهای تصمیمگیری داخلی آنها را نمیتوان به طور کامل درک یا کنترل کرد.
یودکوفسکی هشدار داد: «هر چیزی که جعبه سیاه باشد، احتمالاً مشکلات مشابهی با فناوری فعلی خواهد داشت.» او استدلال کرد که بشریت قبل از این که بتواند هوش مصنوعی پیشرفته را با خیال راحت توسعه دهد، باید «بسیار، بسیار از پارادایمهای فعلی فاصله بگیرد».
هوش مصنوعی عمومی به نوعی از هوش مصنوعی اشاره دارد که میتواند در طیف گستردهای از وظایف استدلال و یادگیری کند، نه این که برای یک کار واحد مانند تولید متن، تصویر یا ویدیو ساخته شده باشد. AGI اغلب با ایده تکینگی فناوری مرتبط است، زیرا رسیدن به این سطح از هوش میتواند ماشینها را قادر سازد تا خودشان را سریعتر از آنچه انسانها میتوانند همگام شوند، بهبود بخشند.
یودکوفسکی برای نشان دادن این خطر به «حداکثرکننده گیره کاغذ» که توسط فیلسوف نیک بوستروم رواج یافته است، اشاره کرد. این آزمایش فکری شامل یک هوش مصنوعی فرضی است که تمام مواد موجود را به گیره کاغذ تبدیل میکند و به این ترتیب، تمرکز خود را بر یک هدف واحد به ضرر بشریت افزایش میدهد. یودکوفسکی گفت که افزودن اهداف بیشتر، ایمنی را به طور معناداری بهبود نمیبخشد.
او با اشاره به عنوان کتاب اخیر خود در مورد هوش مصنوعی، «اگر کسی آن را بسازد، همه میمیرند»، گفت: «عنوان ما این نیست که ممکن است شما را بکشد. عنوان ما این است که اگر کسی آن را بسازد، همه میمیرند.»
اما مور این فرض را که احتیاط شدید، ایمنترین نتیجه را ارائه میدهد، به چالش کشید. او استدلال کرد که AGI میتواند بهترین شانس بشریت برای غلبه بر پیری و بیماری را فراهم کند.
مور اظهار داشت: «مهمترین چیز برای من این است که AGI میتواند به ما کمک کند تا از انقراض هر فردی که به دلیل پیری زندگی میکند، جلوگیری کنیم. ما همه در حال مرگ هستیم. ما یکی یکی به سمت یک فاجعه میرویم.» او هشدار داد که محدودیتهای بیش از حد میتواند دولتها را به سمت کنترلهای استبدادی به عنوان تنها راه برای متوقف کردن توسعه هوش مصنوعی در سراسر جهان سوق دهد.
ساندبرگ خود را بین این دو اردوگاه قرار داد و خود را «خوشبینتر» توصیف کرد، در حالی که محتاطتر از خوشبینهای فرابشریگرا باقی ماند. او یک تجربه شخصی را بازگو کرد که در آن تقریباً از یک مدل زبانی بزرگ برای کمک به طراحی یک سلاح بیولوژیکی استفاده کرد، رویدادی که آن را «وحشتناک» توصیف کرد.
ساندبرگ گفت: «ما به نقطهای میرسیم که تقویت بازیگران مخرب نیز باعث ایجاد یک آشفتگی بزرگ خواهد شد.» با این حال، او استدلال کرد که ایمنی جزئی یا «تقریبی» قابل دستیابی است. او این ایده را که ایمنی باید کامل باشد تا معنادار باشد، رد کرد و پیشنهاد داد که انسانها حداقل میتوانند بر روی ارزشهای مشترک حداقلی مانند بقا همگرا شوند.
او گفت: «بنابراین اگر ایمنی کامل را مطالبه کنید، به آن نخواهید رسید. و این از آن منظر بسیار بد به نظر میرسد. از سوی دیگر، فکر میکنم ما واقعاً میتوانیم ایمنی تقریبی داشته باشیم. این به اندازه کافی خوب است.»
ویتا-مور خود بحث گستردهتر همسویی را مورد انتقاد قرار داد و استدلال کرد که این مفهوم، سطحی از اجماع را فرض میکند که حتی در میان همکاران قدیمی نیز وجود ندارد.
او گفت: «مفهوم همسویی یک طرح خوشبینانه است. هرگز همسو نخواهد شد. منظورم این است که حتی در اینجا، ما همه افراد خوبی هستیم. ما دهههاست که یکدیگر را میشناسیم و همسو نیستیم.»
او ادعای یودکوفسکی مبنی بر این که AGI به ناچار همه را خواهد کشت را «تفکر مطلقگرا» توصیف کرد که هیچ جایی برای نتایج دیگر باقی نمیگذارد.
او گفت: «من با این اظهارنظر گسترده که همه میمیرند، مشکل دارم. با نزدیک شدن به این موضوع به عنوان یک آیندهپژوه و یک متفکر عملگرا، هیچ عواقبی، هیچ جایگزینی، هیچ سناریوی دیگری باقی نمیماند. این فقط یک ادعای صریح است و من تعجب میکنم که آیا این تفکر نوعی مطلقگرایی را منعکس میکند یا خیر.»
این بحث شامل بحثی در مورد این بود که آیا ادغام نزدیکتر بین انسان و ماشین میتواند خطر ناشی از AGI را کاهش دهد یا خیر – چیزی که ایلان ماسک، مدیرعامل تسلا، در گذشته پیشنهاد کرده است. یودکوفسکی ایده ادغام با هوش مصنوعی را رد کرد و آن را با «تلاش برای ادغام با توستر خود» مقایسه کرد.
ساندبرگ و ویتا-مور استدلال کردند که با افزایش توانایی سیستمهای هوش مصنوعی، انسانها باید برای مقابله بهتر با دنیای پس از AGI، بیشتر با آنها ادغام یا ترکیب شوند.
ویتا-مور گفت: «کل این بحث، یک بررسی واقعیت در مورد این است که ما به عنوان انسان چه کسی هستیم.»
