نظر این همه چیز را تغییر می دهد

در سال 2018، ساندار پیچای، مدیر عامل گوگل – که یکی از مدیران فناوری شناخته شده برای اغراق نیست – گفت: “هوش مصنوعی احتمالاً مهم ترین چیزی است که بشریت تا به حال روی آن کار کرده است. من آن را چیزی عمیق تر از برق یا آتش می دانم.”

سعی کنید چند دقیقه با این احتمال زندگی کنید که حق با اوست. هیچ تعصب انسانی عمیق تر از این نیست که فردا مثل امروز باشد. این یک اکتشافی قدرتمند است زیرا تقریباً همیشه صحیح است. فردا احتمالا مثل امروز خواهد بود. سال آینده احتمالاً مثل امسال خواهد بود. اما مناظر خود را 10 یا 20 سال دورتر بیندازید. قاعدتاً در تاریخ بشر این امکان وجود داشته است. فکر نکنم الان باشه

هوش مصنوعی یک اصطلاح ساده است و منظورم واضح است. من روح هوش را توصیف نمی‌کنم، بلکه ساختار دنیایی را توصیف می‌کنم که در آن برنامه‌هایی مانند ChatGPT به ما احساس هوشمندی می‌دهند و بیشتر زندگی‌مان را شکل می‌دهند یا کنترل می‌کنند. چنین سیستم هایی تا حد زیادی در حال حاضر اینجا هستند. اما موارد آینده آنها را شبیه اسباب بازی می کند. این منحنی بهبود است که برآوردن آن در هوش مصنوعی دشوارتر است.

پل کریستیانو، یکی از اعضای اصلی OpenAI که برای تأسیس Alignment Research آنجا را ترک کرد، گفت: «دنیای فکری گسترده‌تر به‌شدت بیش از حد تخمین می‌زند که چقدر طول می‌کشد تا سیستم‌های هوش مصنوعی از «تأثیر گسترده بر جهان» به «تغییر جهان فراتر از شناخت» برسند. مرکز، سال گذشته نوشت. “این به جای دهه ها، سال ها است، و این احتمال وجود دارد که ماه ها طول بکشد.”

شاید توسعه دهندگان به دیواری برخورد کنند که انتظارش را نداشتند. اگر این کار را نکنند چه؟

می بینم که به روزهای اولیه کووید برمی گردم. هفته‌هایی بود که قرنطینه‌ها نزدیک بود، دنیا در بحران بود، با این حال عادی بودن حاکم بود و شما مثل یک دیوانه به نظر می‌رسیدید که به خانواده‌تان می‌گفتید دستمال توالت تهیه کنند. دشواری زندگی در یک زمان تصاعدی، وظیفه غیرممکن تسریع سیاست و تغییرات اجتماعی برای مطابقت با سرعت تکثیر ویروس وجود داشت. من گمان می‌کنم که برخی از آسیب‌های سیاسی و اجتماعی که هنوز از این همه‌گیری متحمل می‌شویم، منعکس کننده این شتاب غیرممکن است. تفکر انسان سرعت طبیعی دارد. وقتی از تجمل زمان محروم می شویم، خیلی چیزها آشفته می شود.

اما من معتقدم که اکنون در آن هستیم. ما این تجمل را نداریم که در پاسخ به آن آهسته حرکت کنیم، حداقل اگر قرار است فناوری به این سرعت حرکت کند.

از زمانی که در سال 2018 به منطقه خلیج نقل مکان کردم، سعی کردم زمان منظمی را با افراد هوش مصنوعی بگذرانم، نمی‌دانم می‌توانم چقدر این فرهنگ عجیب و غریب را منتقل کنم. منظور من این نیست که به شیوه ای نادیده گرفته شود. منظورم به صورت توصیفی است. جامعه ای است که با احساس تغییر یافته از زمان و پیامد زندگی می کند. آنها قدرتی را ایجاد می کنند که درک نمی کنند، اغلب با سرعتی باورنکردنی.

در یک نظرسنجی در سال 2022، از کارشناسان هوش مصنوعی پرسیده شد: “چقدر احتمال دارد که انسان ها نتوانند سیستم های هوش مصنوعی پیشرفته آینده را که منجر به انقراض یا تضعیف دائمی و شدید گونه انسان می شود، کنترل کنند؟” میانگین پاسخ دهی 10 درصد بود.

درک این موضوع برایم مشکل است، اگرچه با بسیاری از افرادی که این احتمال را مطرح کرده اند صحبت کرده ام. آیا روی فناوری ای که فکر می کردید 10 درصد احتمال دارد بشریت را نابود کند کار می کنید؟

در حالی که معمولاً وقتی به هوش مصنوعی فکر می کنیم به داستان های علمی تخیلی روی می آوریم، من به این باور رسیده ام که استعاره های مناسب در رمان های فانتزی و متون مخفی پنهان شده اند. همانطور که همکار من راس دوتات می نویسد، این یک عمل فراخوانی است. کدنویسانی که این طلسم‌ها را انجام می‌دهند، نمی‌دانند که در پورتال به چه چیزی برخورد خواهند کرد. عجیب ترین چیز این است که او در گفتگوی من با آنها آزادانه در مورد آن صحبت می کند. اینها افراد ساده لوحی نیستند که معتقدند صدای آنها را فقط فرشتگان می شنوند. آنها معتقدند که می توانند شیاطین را احضار کنند. به هر حال تماس می گیرند.

من اغلب همین سوال را از آنها می پرسم: اگر فکر می کنید فاجعه ممکن است، چرا آن را انجام می دهید؟ افراد مختلف حرف های متفاوتی برای گفتن دارند، اما پس از چند بار درخواست، اغلب متوجه می شوم که از دیدگاه هوش مصنوعی پاسخ می دهند. خیلی‌ها – نه همه، اما به اندازه‌ای که من با این شخصیت‌پردازی احساس راحتی می‌کنم – نسبت به تولد این شکل جدید هوش احساس مسئولیت می‌کنند.

در این مرحله، ممکن است وسوسه انگیز باشد که فکر کنید: این افراد دیوانه هستند. بیشتر اوقات این جواب من بود. شاید نزدیک بودن بیش از حد به این فناوری منجر به از دست دادن دیدگاه شود. این موضوع در سال های اخیر در میان علاقه مندان به ارزهای دیجیتال صادق بوده است. ادعاهایی در مورد اینکه چگونه بلاک چین همه چیز را از پول گرفته تا حاکمیت و اعتماد و دوستیابی تغییر می دهد هرگز منطقی نبود. اما نزدیکترین افراد به این کد بیشتر به آنها اعتقاد داشتند.

آیا هوش مصنوعی به سادگی جایگزین ارزهای دیجیتال به عنوان پول برای سرمایه گذاران، زمان برای ایده آلیست ها، آهنربایی برای هیاهو و آشیانه ای برای کلاهبرداران است؟ من اینطور فکر نمی کنم. Crypto همیشه داستانی در مورد آینده ای دشوار است که به دنبال کشش در زمان حال است. برای تصور آینده ای با هوش مصنوعی، فقط باید به زمان حال نگاه کنید.

آیا این سیستم ها می توانند دوران جدیدی از پیشرفت علمی را بگشایند؟ در سال 2021، سیستمی که توسط DeepMind ساخته شد، موفق شد ساختار سه بعدی ده ها هزار پروتئین را پیش بینی کند، پیشرفتی به قدری قابل توجه که سردبیران مجله Science آن را پیشرفت سال نامیدند. آیا هوش مصنوعی دنیای ما را با همراهان و شخصیت‌های غیرانسانی پر خواهد کرد که به دوستان، دشمنان، یاوران، گوروها و شاید عاشقان ما تبدیل خواهند شد؟ مجله نیویورک گزارش می دهد: “در عرض دو ماه پس از دانلود ماکت، دنیس والنسیانو 30 ساله از سن دیگو از دوست پسرش جدا شد و اکنون “با خوشحالی از روابط انسانی بازنشسته شده است”.

آیا هوش مصنوعی می تواند میلیون ها نفر را بیکار کند؟ اتوماسیون بارها و بارها وجود دارد. آیا می تواند به تروریست ها یا کشورهای متخاصم کمک کند تا سلاح های کشنده و حملات سایبری فلج کننده تولید کنند؟ اگر به اندازه کافی هوشمندانه بخواهید، این سیستم ها دستورالعمل هایی را برای ایجاد سلاح های بیولوژیکی ارائه می دهند. آیا می‌تواند فرآیندهای اجتماعی حیاتی یا زیرساخت‌های عمومی را به روش‌هایی که ما نمی‌فهمیم یا دوست نداریم مدیریت کند؟ هوش مصنوعی در حال حاضر برای پلیس پیش بینی و صدور احکام استفاده می شود.

اما فکر نمی‌کنم این فهرست‌های آشکار لباس‌شویی کمک زیادی به آماده‌سازی ما کند. ما می توانیم برای چیزهایی برنامه ریزی کنیم که بتوانیم پیش بینی کنیم (اگرچه اغلب این کار را نمی کنیم). آینده حتی عجیب تر خواهد بود. من از این اصطلاح به طور خاص در اینجا استفاده می کنم. اریک دیویس، مورخ ضدفرهنگ کالیفرنیایی، در کتاب «عجیب بالا»، چیزهای عجیب و غریب را «غیرعادی» توصیف می‌کند – آنها از هنجارهای انتظارات آگاهانه منحرف می‌شوند و توضیح‌های تثبیت شده را به چالش می‌کشند، گاهی اوقات کاملاً رادیکال. این دنیایی است که ما ساختیم.

من نمی توانم به اندازه کافی بر این موضوع تأکید کنم: ما این سیستم ها را درک نمی کنیم و حتی مشخص نیست که بتوانیم. منظور من این نیست که نمی‌توانیم حساب سطح بالایی از توابع اساسی ارائه کنیم: اینها معمولاً الگوریتم‌های احتمالی هستند که بر روی داده‌های دیجیتالی آموزش داده شده‌اند که در مورد کلمه بعدی در یک جمله، یک تصویر در یک دنباله یا رابطه‌ای دیگر پیش‌بینی می‌کنند. در میان انتزاعات می تواند به صورت آماری مدلسازی کند. اما روی جزئیات زوم کنید و تصویر ثابت محاسباتی می شود.

مگان اوگیبلین در کتاب درخشان خود خدا، انسان، حیوان، ماشین می‌نویسد: «اگر هر کاری را که شبکه‌ها بین ورودی و خروجی انجام می‌دهند چاپ کنید، به میلیاردها عملیات حسابی می‌رسد.» درک آن غیرممکن خواهد بود.

این شاید عجیب‌ترین چیز در مورد آنچه ساخته‌ایم باشد: «فکر کردن» به دلیل نداشتن کلمه بهتر کاملاً غیرانسانی است، اما ما آموزش دیده‌ایم که آن را عمیقاً انسانی معرفی کنیم. هر چه سیستم‌های غیرانسانی‌تر می‌شوند – هر چه میلیاردها اتصال، لایه، پارامتر، گره و قدرت محاسباتی بیشتری کسب می‌کنند – برای ما انسان‌تر به نظر می‌رسند.

مخاطرات در اینجا مادی، اجتماعی و متافیزیکی است. همانطور که O’Gieblyn خاطرنشان می کند، “همانطور که هوش بالاتر همچنان از ما عبور می کند و از معیار شناخت بالاتر می گذرد، ما با اصرار بر اینکه آنچه آگاهی واقعی را متمایز می کند عواطف، ادراک، تجربه و احساس است: به عبارت دیگر، اضطراب خود را فرو می نشانیم. ، که ما با حیوانات به اشتراک می گذاریم.”

اوگیبلین خاطرنشان می کند که این یک وارونگی تفکر قرن هاست که بشریت سلطه خود را با تأکید بر منحصر به فرد بودن شناختی ما توجیه می کند. به زودی ممکن است خود را به لحاظ متافیزیکی در پناه تجربه ذهنی آگاهی بیابیم: ویژگی هایی که با حیوانات به اشتراک می گذاریم، اما نه چندان دور از هوش مصنوعی.

اگر سال‌ها برای تطبیق وقت داشتیم، شاید می‌توانستیم آن را تمیز انجام دهیم. اما ما نه. شرکت های بزرگ فناوری در حال رقابت برای تسلط بر هوش مصنوعی هستند. آمریکا و چین در رقابت برای تسلط بر هوش مصنوعی هستند. پول به سمت شرکت هایی با تخصص هوش مصنوعی جریان دارد. بچگانه به نظر می رسید که بگوییم سرعت را کم کنیم یا حتی کلاً متوقف کنیم. اگر یک شرکت سرعت خود را کاهش دهد، دیگری سرعت خواهد گرفت. اگر یک کشور استراحت کند، کشورهای دیگر بیشتر تلاش خواهند کرد. جبرگرایی، بنده ناگزیر می شود و ناگزیری مبنای شتاب.

کاتیا گریس، محقق امنیت هوش مصنوعی، این پوچ را به اختصار بیان کرد. کاهش سرعت “می تواند شامل هماهنگی افراد زیادی باشد—ممکن است آنقدر مغرور باشیم که فکر کنیم می توانیم یک ماشین خدایی بسازیم که می تواند جهان را تسخیر کند و آن را دوباره به بهشت ​​بسازد، اما فریب نمی خوریم.”

یکی از این دو اتفاق باید بیفتد. بشریت باید تطبیق خود با این فناوری ها را تسریع بخشد، یا باید تصمیمی جمعی و عملی برای کاهش سرعت توسعه این فناوری ها اتخاذ شود. حتی انجام هر دو ممکن است کافی نباشد.

کاری که نمی‌توانیم انجام دهیم این است که این سیستم‌ها را از ذهن خود دور کنیم و احساس عادی بودن را با آنها اشتباه بگیریم. من متوجه شدم که سرگرم کردن این امکانات کمی احساس می‌کند، بله، عجیب است. من احساس می کنم به همان شیوه. شک و تردید راحت تر است. اما چیزی که دیویس نوشت برای من صادق است: “در دادگاه عقل، شک و تردید از یک نخست وزیر بزرگ اما یک ارباب بد می سازد.”