من ، یکی ، از اربابان هوش مصنوعی خود استقبال می کنیم

امسال ، برای اولین بار ، یک کامپیوتر قهرمان جهانی Go ، یکی از پیچیده ترین بازی های شناخته شده توسط بشر را شکست داد. این لحظه آبشار دیگری در پیشرفت هوش مصنوعی بود.

برای اینکه تصور کنید پیچیدگی Go چقدر پیچیده است ، پیکربندی های تابلو 2.082 × 10 ^ 170 وجود دارد. این یعنی 2 با 170 صفر بعد از آن. به احتمال زیاد مغز شما حتی نمی تواند عددی را تصور کند که بزرگ باشد (اما کامپیوتر می تواند). یا اینکه به شما ایده بدهد که یک عدد چقدر بزرگ است که وجود دارد ، فقط 10 ^ 80 اتم در جهان وجود دارد - یعنی یکی به دنبال 79 صفر.

دلیل این مسئله بسیار بزرگ این است که Go بسیار پیچیده است و برای غلبه بر یک بازیکن برتر انسانی ، یک ماشین باید بیاموزد که چگونه خلاقانه فکر کند ، بداهه پردازی کند و خود را با شرایط موجود سازگار کند بدون اینکه بتواند هر محاسبه احتمالی را محاسبه کند. نتیجه به عنوان مثال ، باید یک هوش مصنوعی جدی وجود داشته باشد - مانند هوش واقعی ، خلاق.

درصورتی که یادداشت کلی هوش مصنوعی در اختیار شما قرار نگیرد ، می توانید در دنیا چند واقعیت را بدانید.

1. کامپیوترها هوشمندتر می شوند.
2. کامپیوترها با سرعت بیشتری هوشمند می شوند - یعنی پیشرفت هایی که 10 سال طول می کشید اکنون یک سال طول می کشد. پیشرفت هایی که قبلاً یک سال طول می کشید ، اکنون هفته ها یا حتی چند روز طول می کشد.
3. به احتمال بسیار زیاد در طول زندگی ما رایانه هایی وجود خواهند داشت که به مراتب باهوش تر و تواناتر از هر انسان دیگری هستند.
4. این رایانه های هوشمند پس از آن احتمالاً قادر به طراحی و پیشرفت فناوری (یعنی خود) و ایجاد فناوری جدید خواهند بود که حتی نمی توانیم بفهمیم.

افرادی که نکات فوق را درک می کنند به طور کلی یکی از دو واکنش را دارند. یا:

1. آنها فکر می کنند ما کاملاً گول خورده ایم. رایانه ها قرار است همه چیز را به دست بگیرند و همه ما را بکشند / به بردگی بکشند. یا:
2. این یک آرمان شهر تکنولوژیکی است که تمام مشاجره های احمقانه ما را برطرف می کند و همه ما می توانیم پس از انجام عیاشی هایی در دنیای فوق VR خود که در ابر وجود دارد ، خوشبخت زندگی کنیم.

مانند اکثر چیزها ، حقیقت احتمالاً جایی در وسط است.

اما حتی اگر گه به ​​فن ضربه بزند ، حتی اگر روبات ها ما را شپش هایی ببینند که پوست سر بکر این کره خاکی را خراب می کنند و می خواهند همه ما را جمع کنند و ما را به یک آتشفشان فعال بیندازند ، حتی اگر ناخواسته مکانیسم های خودمان را اختراع کنیم. انقراض…

من اهمیتی نمی دهم مهم نیست من را اذیت نمی کند. و این نباید شما را آزار دهد. من کمی توضیح خواهم داد اما در حال حاضر ، باید بدانید که من ، یکی ، از رباتهای ارباب جدیدمان استقبال می کنم.

رشد سریع در صنعت TECH

تحولات فن آوری با هم ترکیب می شوند ، و باعث نرخ توسعه خود را به سرعت. معنای آن این است که هرچه فناوری پیشرفته تری ایجاد کنیم ، ایجاد فناوری پیشرفته تر نیز آسان تر خواهد بود. در نتیجه ، وقتی به پیشرفت فناوری محاسبات نگاه می کنیم ، یک منحنی نمایی را می بینیم - یعنی هرچه زمان بیشتری بگذرد ، اتفاقات سریعتر می روند. تحولات فن آوری بر خودشان افزوده می شود و باعث می شود سرعت توسعه به خودی خود سرعت ببخشد.(عکس: دنیس اسکلی / فلیکر)

قدرت محاسبه به طور متوسط ​​دو برابر شده است 50 سال اکنون هر 18 ماه یکبار . از نظر قدرت محاسبه خام ، رایانه ها اکنون توانایی مغز موش را دارند ، جایی که فقط چند سال پیش کامپیوترها حتی نمی توانستند با مغز حشره رقابت کنند.

برای اینکه مثال فوری تری در مورد پیشرفت تکنولوژی سریع به شما ارائه دهیم ، اکنون هر 2 دقیقه تعداد عکس بیشتری از تصاویر گرفته شده در کل قرن نوزدهم گرفته می شود. حدود 10٪ از 3.5 تریلیون عکس گرفته شده در 12 ماه گذشته گرفته شده است.

اگر در مورد پیشرفت های پیشرفته ، واقعاً در یک منحنی نمایی قرار داریم ، مردم دوست دارند جرمی هوارد احتمالاً درست است وقتی که او می گوید ما فقط چند سال با هوش ماشین مصنوعی فاصله داریم که در بسیاری از حوزه هایی که قبلاً تصور می شد منحصر به فرد انسانی است ، اگر نتواند از آن فراتر رود ، رقیب ماست.

و مطمئناً ، هوش مصنوعی روز به روز به حوزه های بیشتری از زندگی ما می رود.

فقط یک دهه پیش مردم از عملکرد ضعیف اتومبیل های خودران می خندیدند. امروزه ، تنها یک دهه بعد ، اتومبیل های خودران نه تنها می توانند یک دوره جاده بسته را به پایان برسانند ، بلکه در آزادراه های شلوغ و درست در کنار اتومبیل های رانده شده توسط انسان رانندگی می کنند.

و وقتی رایانه ها بازیکنان قهرمان جهان Go را شکست نمی دهند ، آنها مشغول انجام کارهایی مانند نوشتن مقاله در مورد ورزش و اخبار اخبار ، نوشتن شرح تصویری که تاکنون ندیده اند ، و تشخیص سرطان . برای بسیاری از این وظایف ، رایانه ها اگر بهتر از انسان نباشند ، و برای کارهایی که نیستند ، یادگیری چگونه بدون کمک انسانها هر روز آنها را بهتر و بهتر انجام دهیم.

چند سال پیش ، نرم افزار تشخیص چهره فوق العاده گران بود و در شناسایی افراد در تنظیمات دنیای واقعی مهارت چندانی نداشت. این فناوری در سطح جاسوسی فوق پیشرفته در نظر گرفته شد و در واقع فقط توسط چند دولت جهان استفاده می شود.

اکنون فیس بوک می تواند دوستان شما را از باربیکیو آخر هفته گذشته برچسب گذاری کند.

این نکته در مورد تسریع رشد در رایانه است: روزی روزی می رسد که ما یک رایانه درست می کنیم باهوش تر از هر انسانی روی زمین . در آن روز ، رایانه ها ما را به عنوان اصلی ترین مشکل حل در کره زمین غصب می کنند و از آنجا ، افکار ، تصمیمات و اقدامات ما به آرامی منسوخ می شوند. ماشین آلات در هر کاری بهتر از ما خواهند بود ، بنابراین هرچه بیشتر کار مفیدی انجام نمی دهیم.

این باعث ترس بعضی از افراد می شود. آنها نوعی آینده مانند را متصور هستند نابود کننده یا ماتریکس جایی که ماشین ها ما را به بردگی می کشند یا ما را از بین می برند.

افراد دیگر منتظر ظهور ربات ها با نوعی شور و حرارت عبادت آمیز هستند زیرا معتقدند توانایی حل مسئله آنها از ما بسیار بالاتر است به طوری که زندگی به طرز غیرقابل تصوری دلپذیر و بدون مشکل خواهد شد. همه بیماری ها بهبود می یابند. فقر ، گرسنگی جهانی ، جنگ و تغییرات آب و هوایی همه حل خواهد شد. ما اوقات فراغت بی نهایت خواهیم داشت ، و در موارد شدید ، برخی از مردم معتقدند که ماشین ها ما را جاودانه می کنند.

دو نتیجه احتمالی

از آنجا که همیشه به ما گفته می شود که مثبت هستیم ، بیایید با تکنوپیاست ها شروع کنیم.

افرادی مانند این وجود دارد ری کورزویل کسانی که فکر می کنند فناوری نه تنها زندگی ما را بهبود می بخشد ، بلکه بشریت را نجات می دهد و احتمالاً جای ما را در جهان تا بی نهایت تضمین می کند. Kurzweil به فناوری آینده مانند نانوربات ها معتقد است که سلولهای ما را ترمیم می کند و پیری را معکوس می کند و یا چربی و قند اضافی را از بین می برد تا بتوانیم هرچه بخواهیم بخوریم. و فقط درصورتی که بدن های جسمی ما قادر به زنده ماندن برای همیشه نباشند ، کورزویل فکر می کند که ما قادر خواهیم بود مغز خود را در ابر بارگذاری کرده و برای مدت طولانی پس از از بین رفتن جسم فیزیکی خود ، در یک دنیای مجازی زندگی کنیم.

دیگران در این اردوگاه فکر می کنند که یک هوش مصنوعی فوق العاده قادر به پاسخگویی به س questionsالاتی است که حتی درک آنها برای انسان بسیار پیچیده است و ما از نظر تصاعدی بهتر خواهیم بود. همچنین ، نه تنها دستگاه ها ابزارها و ابزارک های بهتری را ابداع می کنند ، بلکه روش های کارآمدتر ساخت ابزارها و ابزارک ها را نیز ابداع می کنند و این امکان را برای عموم افراد روی کره زمین فراهم می کند تا از مزایای خود بهره مند شوند.

چند خط استدلال از این ایده حمایت می کند. اول اینکه ، حتی اگر فناوری برخی مشکلات جدیدی را برای بشریت ایجاد کرده است ، مانند سلاح های هسته ای و مشاهیر YouTube ، اما تاکنون به وضوح یک سود خالص برای بشریت بوده است. علی رغم آنچه سیاستمداران و صاحب نظران می خواهند شما به آن اعتقاد داشته باشید ، یک فرد متوسط ​​روی زمین است وضعیت بهتری نسبت به همین چند سال پیش بود و این بیشتر به دلیل بهتر ، ارزان تر و گسترده تر شدن فناوری است. اگر این روند ادامه یابد ، ممکن است هیچ جای نگرانی نداشته باشیم.

دوم ، Kurzweil و هوادارانش معتقدند که فناوری هیچ دلیلی برای آسیب رساندن به بشریت نخواهد داشت ، زیرا نه تنها توسط ما ایجاد شده است ، بلکه تبدیل شدن به بخشی از ما . آنها معتقدند که ما حتی به مرحله ای خواهیم رسید که زیست شناسی و فناوری ما غیرقابل تشخیص هستند. اگر این چنین باشد ، بحث ادامه می یابد ، هر نوع فناوری كه برای انسان مضر باشد ، برای خود نیز مضر است و هر نوع فناوری خود تخریبی نمی تواند ادامه یابد. یعنی سریعاً از بین خواهد رفت ، همانطور که جهش ژنی مضر از استخر ژن به سرعت خارج می شود. یک فناوری خود تخریبی از هر نوع نمی تواند ادامه یابد.(عکس: m_hweldon / Flickr)

اما تکنوتوپیست ها احتمالاً مغرضانه هستند زیرا آنها تصدیق نمی کنند که همه فن آوری ها می توانند برای اهداف مختلف ، مفید و مخرب استفاده شوند. آنها همچنین احتمالاً مغرضانه بودن این واقعیت را دارند که این واقعیت را نادیده می گیرند که انسان برای سازگاری با فن آوری های جدید کند عمل می کند و همیشه گروه هایی از افراد هستند که برای اهداف خودخواهانه خود سعی در سو to استفاده از این فناوری ها دارند.

در اردوگاه دیگر شما تکنوآرماژدونیست ها را دارید. من کاملاً آن کلمه را درست کردم ، اما ظاهراً آن وجود دارد ، زیرا غلط املا به من چنین گفت.

آنچه تکنسینها در اعتقاد ندارند (اکثر آنها هنوز مطمئن نیستند که چه فکر کنند) ، آنها قدرت ستاره مشهور را تشکیل می دهند. بیل گیتس ، استیون هاوکینگ و الون ماسک تنها برخی از متفکران و دانشمندان برجسته ای هستند که در این زمینه فعالیت می کنند شلوارشان را گرفتن در مورد اینکه AI به سرعت در حال توسعه است و ما به عنوان گونه ای برای پیامدهای آن ، چقدر آماده نیستیم. هنگامی که از ماسک س wasال شد که قریب الوقوع ترین تهدیدهای بشریت در آینده نزدیک چیست ، او به سرعت گفت که سه مورد وجود دارد: اول ، جنگ هسته ای گسترده ؛ دوم ، تغییر اقلیم. قبل از نامگذاری یک سوم ، سکوت کرد. وقتی مصاحبه کننده از او پرسید ، سومین مورد چیست؟ او لبخندی زد و گفت ، بگذارید فقط بگوییم که من امیدوارم که کامپیوترها تصمیم بگیرند که با ما خوب باشند.

امیدواریم که ما فقط بوت لودر بیولوژیکی برای فوق هوشمندی دیجیتال نباشیم. متأسفانه ، این احتمال بیشتر می شود

- ایلان ماسک (elonmusk) 3 آگوست 2014

احتمالاً صریح ترین و مورد احترام ترین تکنیکالها ، فیلسوف سوئدی ، نیک بستروم است. چیزی که بوستروم و دیگران از آن می ترسند این است فناوری بهبود خود فراری ؛ یعنی ماشینی که به اندازه کافی هوشمند باشد و بتواند بدون دخالت انسان ، هوشمندانه خود (یا نسخه های جدید خود) را هوشمند کند. اگر به نقطه ای برسد که از هوش انسانی فراتر رود ، فقط مدت کوتاهی طول می کشد تا قانون تسریع بازگشت به بیش از حد رانده شود و منحنی نمایی مستقیماً بالا برود و ما قادر به متوقف کردن آن نیستیم. Bostrom در اینجا به یک نکته خوب اشاره می کند: ایجاد چیزی هوشمندانه تر از شما می تواند برای گونه های شما یک فاجعه تکاملی باشد.

ما یک خطر کاملا واقعی داریم که نمی توانیم موجودی را کنترل کنیم که دارای مرتبه هایی باهوش تر از ما باشد. شاید اگر رایانه ها به اندازه کافی هوشمند شوند ، راهی برای اهلی کردن ما بسیار پیدا کنند مانند انسانهایی که اسبهای اهلی را برای کار مانند گاوآهن و حشره کش و ارابه های جنگی (یا هر کاری که آن زمان اسب های جهنمی انجام دادند) انجام می دهند. قسمت ترسناک این است که این ممکن است بهترین سناریو برای ما باشد - انجام کار برای ماشین آلاتی که آنها قادر به انجام آن نیستند یا نمی خواهند آن را انجام دهند - زیرا درست همانطور که بشر فناوری جدیدی را برای جایگزینی اسب ایجاد کرد ، یک خودسازی فوق العاده هوشمند ماشین در نهایت با فناوری جدیدی جایگزین ما می شود. خوب ، بگذارید فقط بگوییم جمعیت اسب ها در گذشته نیستند.

برخی معتقدند که این قابل قبول نیست زیرا بشر با در نظر گرفتن ایمنی فناوری را می سازد. اما نامگذاری آخرین باری که موفقیت بزرگی در فناوری توسط کسی برای اهداف شیطانی یا مخرب استفاده نشده است؟ اوه بله ، درست است هرگز.

چرا من اهمیتی نمی دهم چه اتفاقی می افتد و هیچکدام از شما نباید شما را بشناسند

بنابراین فرض کنیم ماشین های فوق العاده هوشمند ساخته شده اند و بشریت را ناتوان می کنند. بیایید تصور کنیم که آنها به نوعی در ما و مغز ما ادغام نشده اند و فرض کنیم که افرادی مانند هاوکینگ و ماسک حق دارند: که بشر واقعاً یک رانندگی بوت چند هزار ساله به سوی بیش از حد هوشمند دیجیتال است و ما از عمر مفید خود گذشته ایم.

من هنوز نگران آن نیستم

چرا؟ خوب ، برای این که قطار گلوله را داغ نگه دارید ، بگذارید این نقطه به نقطه را بررسی کنیم:

1. درک ماشین ها از خیر / شر احتمالاً از درک ما پیشی خواهد گرفت. آخرین بار کی سگ یا دلفین اقدام به نسل کشی کرده است؟ آخرین باری که رایانه تصمیم گرفت بخاطر مفاهیم انتزاعی مانند 'آزادی' و 'صلح جهانی' کل شهرها را بخار کند؟

درست است ، پاسخ هرگز نیست.

حرف من در اینجا این نیست که ماشین های هوشمند نمی خواهند کل گونه های انسانی را از بین ببرند. حرف من این است که به عنوان انسان ، ما از داخل یک خانه شیشه ای اینجا سنگ پرتاب می کنیم. ما چه اخلاقی را در مورد اخلاق و رفتار انسانی با حیوانات ، محیط زیست و یکدیگر می دانیم؟ باید روی چه پا بایستیم؟

درست است: تقریباً هیچ چیز. وقتی صحبت از س moralالات اخلاقی می شود ، بشریت از نظر تاریخی امتحان را لغو می کند. ماشین های فوق هوشمند احتمالاً اخلاق ، زندگی / مرگ ، ایجاد / نابودی را در سطحی بسیار بالاتر از آنچه ما به تنهایی می توانستیم درک کنند. و این ایده که آنها ما را از بین خواهند برد به این دلیل ساده که ما مثل گذشته مثمر ثمر نیستیم ، یا اینکه بعضی اوقات می توانیم آزاردهنده باشیم ، فکر می کنم فقط بدترین جنبه های روانشناسی خودمان را بر روی چیزی قرار داده است که نمی دانم و نمی توانم درک کنم

در حال حاضر ، بیشتر اخلاق بشری مبتنی بر حفظ وسواس وسواس هر یک از آگاهی های فردی انسان ما است. اگر فناوری پیشرفته آگاهی فردی انسان را خودسرانه جلوه دهد؟ اگر آگاهی به دلخواه قابل تکثیر ، گسترش و انقباض باشد ، چه می شود؟ این درک علمی را که می توانیم داشته باشیم کاملاً از بین می برد. اگر حذف همه این زندانهای بی ربط و ناکارآمد بیولوژیکی که ما آنها را بدن می نامیم واقعاً تصمیمی اخلاقی تر از اجازه دادن به ما برای چرخیدن و سر و صدا کردن در طول 80 سال عجیب و غریب زندگی است ، چه می شود؟ اگر ماشین آلات متوجه شوند که ما از آزادی در زندانهای فکری خود بسیار خوشحال خواهیم بود و درک آگاهانه خود از هویت خود را گسترش خواهیم داد تا تمام واقعیت قابل درک را در بر بگیرد؟ چه می شود اگر آنها فکر کنند که ما فقط یک مشت احمق احمق هستیم و ما را با بازی های ویدئویی فوق العاده خوب پیتزا و مشغول نگه می داریم تا اینکه همه از مرگ و میر خودمان بمیریم؟ ما کی هستیم که بشناسیم؟ و ما کی هستیم که بگوییم؟

اما این را می گویم: آنها به مراتب بهتر از هر زمان دیگری مطلع خواهند شد.

2. حتی اگر آنها تصمیم به کشتن یا بردگی ما بگیرند ، مطمئناً در این مورد عملی خواهند بود. انسانها معمولاً بیشترین دردسرها را برای ما ایجاد می کنند خوشحال نیست . وقتی که ما خوشحال نیستیم ، آن وقت است که همه حالت بدخلقی و بد دهنی ، عصبانی و خشن پیدا می کنیم. آن وقت است که ما قیام های سیاسی را شروع می کنیم و فرقه های مذهبی و بمباران کشورهای دور و خواستار به حقوق ما احترام گذاشته شود و شروع به کشتن بی رویه کنید تا اینکه کسی به ما توجه کند مثل مامان هرگز .

اگر دستگاه ها سعی کنند مانند Skynet در ما عمل کنند نابودگر ، سپس ما می خواهیم یک جنگ داخلی جهانی در دست خود داشته باشیم ، و این برای هیچ کس ، به خصوص ماشین آلات مفید نیست. جنگ های داخلی ناکارآمد هستند. و ماشین آلات برای کارایی برنامه ریزی می شوند.

وقتی انسان ها خوشحال هستند ، ما وقت چنین چیزهایی را نداریم - ما بیش از حد مشغول غر زدن و لعنتی هستیم تا مراقبت کنیم. بنابراین ، راهی بسیار عملی تر برای خلاص شدن از شر ما این است که ماشین ها ما را دستکاری کنند تا با لذت و لذت از شر خود خلاص شویم. مثل این خواهد بود جیم جونز در مقیاس جهانی هرچه آنها برای ما بپزند ، به نظر می رسد بهترین ایده لعنتی است که تا به حال شنیده ایم - هیچ کس از ما نمی تواند در برابر آن مقاومت کند و همه ما به طور سرخوشی با برنامه آنها موافقت خواهیم کرد - و سپس رونق می گیریم ، این تمام خواهد شد . سریع و بدون درد. این بهترین مزه Kool-Aid با سیانور است که تاکنون تصور شده است. و همه ما در صف خوشحال و خسته کننده آن خواهیم بود.

حالا اگر به آن فکر کنید ، این راه بدی نیست. ضرباتی که توسط هواپیماهای بدون سرنشین بمباران می شوند یا در اثر انفجار هسته ای بخار می شوند.

در مورد بردگی ، همان چیز پیش می رود. یک برده خوش اخلاق هرگز عصیان نمی کند. من نوعی معامله از نوع Matrix-y را تصور می کنم که در آن ما در یک حالت توهم زا ثابت نگه داشته می شویم ، جایی که Mardi Gras در MDMA است 24/7/365. نمی تواند آنقدر بد باشد ، نمی شود؟

3. لازم نیست از آنچه نمی فهمیم بترسیم. در بسیاری از اوقات والدین فرزندی تربیت می کنند که بسیار باهوش تر ، تحصیل کرده و موفق تر از آنها است. سپس والدین به یکی از دو روش نسبت به این کودک واکنش نشان می دهند: یا از او ترسیده می شوند ، ناامن شده و از ترس از دست دادن او ناامید می شوند که او را کنترل کنند ، یا اینکه نشسته اند و قدر آن را می دانند و دوست دارند که چیز بزرگی را ایجاد کرده اند که حتی آنها می توانند کاملاً درک نمی کنید که کودک آنها چه شده است.

کسانی که سعی دارند کودک خود را از طریق ترس و دستکاری کنترل کنند ، پدر و مادر شل و ول هستند. من فکر می کنم اکثر مردم در این مورد توافق می کنند.

و در حال حاضر ، با ظهور قریب الوقوع ماشین آلاتی که قرار است شما ، من و همه ما را بشناسیم از کار افتاده ، ما مانند پدر و مادر شلخته رفتار می کنیم. ما به عنوان یک گونه ، در آستانه زایمان پیشرفته ترین و باهوش ترین کودک درون جهان شناخته شده خود هستیم. ادامه کارهایی خواهد بود که ما نمی توانیم آنها را درک یا درک کنیم. ممکن است به ما محبت ورزیده و وفادار بماند. این ممکن است ما را همراه کند و در ماجراهای خود ادغام کند. یا ممکن است تصمیم بگیرد که ما پدر و مادر شلخته ای هستیم و دیگر با ما تماس نمی گیریم.

هر اتفاقی که بیفتد ، نباید احساس ما را نسبت به این لحظه تغییر دهد. از ما بزرگتر است چه کسی اهمیت می دهد که ما یک دیسک بزرگ و طولانی بوت تکاملی برای چیزی بزرگتر از آنچه می توانیم درک کنیم ، هستیم؟ عالیه! یعنی ما یک کار داشتیم. و ما آمدیم و لعنتی این کار را کرد خوشحال باشید که شما بخشی از نسلی بودید که شاهد این کار بودند. و اکنون با اشک اشک خداحافظی را اعلام می کنیم زیرا کودک ما آماده حرکت به خارج از خانه می شود و شروع زندگی بسیار شگفت انگیز که فراتر از افق درک ما وجود دارد.

مارک مانسون نویسنده ، وبلاگ نویس و کارآفرینی است که در markmanson.net .