وہاں ایک سلیکن ویلی میں مصنوعی ذہانت کے بارے میں زبردست بحث جاری ہے اور بدقسمتی سے داو ratherں زیادہ ہیں: کیا ہم غلطی سے ایک زبردست سمارٹ اے آئی بنائیں گے؟ جو ہم پر بدل جاتا ہے اور ہم سب کو مار دیتا ہے یا غلام بنا دیتا ہے؟
یہ گرمیوں کی تباہی والی فلم کے منظر نامے کی طرح محسوس ہوسکتا ہے ، لیکن اس سے ایلون مسک سے لے کر دیر تک کچھ بہت بڑے ناموں کی فکر ہے۔ سٹیفن ہاکنگ .
'آئیے کہتے ہیں کہ آپ خود کو بہتر بنانے والے A.I بناتے ہیں۔ سٹرابیری لینے کے ل، ، کستوری نے کہا ہے ، اپنے خدشات کی وضاحت کرتے ہوئے ، 'اور یہ سٹرابیری لینے اور زیادہ سے زیادہ چننے میں بہتر سے بہتر ہوتا جاتا ہے اور یہ خود میں بہتری لانے والا ہوتا ہے ، لہذا یہ سب کرنا چاہتے ہیں سٹرابیری چننا۔ تو پھر یہ ساری دنیا اسٹرابیری کے کھیتوں کی ہوتی۔ اسٹرابیری کھیت ہمیشہ کے لئے۔ ' انسان اس سٹرابیری - پاکسیپسیس کی راہ میں صرف ایک خرچ کرنے والا پریشان کن ہوگا۔
لیکن یقینا انسان اتنے بے وقوف نہیں ہوں گے کہ اتفاقی طور پر کسی A.I کا ڈیزائن بنائیں۔ تمام تہذیب کو ایک بڑے بیری فارم میں تبدیل کرنے کے لئے کارفرما ہے؟ شاید نہیں ، لیکن جیسے جینیل شین ، ایک محقق جو عصبی نیٹ ورکس کی تربیت کرتا ہے ، مشین سیکھنے کے الگورتھم کی ایک قسم ، نے حال ہی میں اس پر نوٹ کیا اس کا بلاگ ، A.I. عجیب پن ، یہ مکمل طور پر ممکن ہے کہ وہ غلطی سے یہ کر سکے۔
در حقیقت ، یہ پہلا دور کی بات ہو گا جب انسانوں نے سوچا ہو کہ وہ صرف ایک کام کے لئے روبوٹ بنا رہے ہیں اور یہ معلوم کریں گے کہ روبوٹ اس انداز میں نظام کھیل رہے ہیں جس کا ان کا ارادہ کبھی نہیں تھا۔ روبوٹ کی جنگل کی متعدد مثالوں کو بانٹنے کے لئے یہ دلچسپ پوسٹ تعلیمی لٹریچر میں کھو گئی۔ وہ مضحکہ خیز ، ہوشیار اور تھوڑے سے عجیب و غریب سے زیادہ مل کر چلتے ہیں۔
1. جب آپ ٹھوکر مار سکتے ہو تو کون ٹانگوں کی ضرورت ہوتی ہے؟
'ایک مصنوعی روبوٹ کو جلد سے جلد سفر کرنے کے لئے تیار ہونا تھا۔ لیکن پیروں کی نشاندہی کرنے کے بجائے ، یہ خود کو ایک لمبے مینار میں جمع کیا ، پھر گر گیا۔ شین لکھتے ہیں کہ ان میں سے کچھ روبوٹ نے اپنی گرتی ہوئی حرکت کو کچھ فاصلے میں شامل کرتے ہوئے اسے سومرسلٹ میں تبدیل کرنا سیکھا۔
2. ایک روبوٹ جو کر سکتا ہے۔
مصنوعی روبوٹ کا ایک اور مجموعہ ایک ایسی شکل میں تیار ہونا تھا جو کود سکتا ہے۔ شین بتاتے ہیں کہ - لیکن پروگرامر نے ابتدائی طور پر کودنے کی اونچائی کو سب سے لمبے بلاک کی اونچائی کے طور پر بیان کیا تھا - ایک بار پھر - روبوٹ بہت لمبے قد میں تیار ہوئے ، 'شین بتاتے ہیں۔ 'پروگرامر نے اس کودنے کی اونچائی کو بلاک کی اونچائی کے طور پر بیان کرکے اس کو حل کرنے کی کوشش کی جو اصل میں' سب سے کم 'تھا۔ اس کے جواب میں ، روبوٹ نے ایک لمبی لمبی ٹانگ تیار کی جس سے وہ ایک طرح کے روبوٹ کین کے ڈبے میں ہوا میں جا سکتا ہے۔ '
3. ٹیسٹ چھپائیں اور آپ اسے ناکام نہیں کرسکتے ہیں۔
'یہاں ایک الگورتھم تھا جو نمبروں کی فہرست کو ترتیب دینا تھا۔ اس کے بجائے ، اس نے اس فہرست کو حذف کرنا سیکھ لیا ، تاکہ وہ اب تکنیکی طور پر ترتیب سے نہ رہے۔ '
4. جیٹھ ایندھن کو ریاضی کی غلطیوں نے شکست دی۔
'ایک نقلی شکل میں ، روبوٹ نے یہ سیکھا کہ ریاضی میں چھوٹی چھوٹی گول غلطیاں جن کا حساب کتاب قوتوں سے ہوتا ہے اس کا مطلب یہ ہوتا ہے کہ انہیں حرکت کے ساتھ ایک چھوٹی سی اضافی توانائی مل جاتی ہے۔ انہوں نے تیزی سے مڑنا سیکھا ، اور بہت ساری مفت توانائی پیدا کی جس سے وہ استمعال کرسکیں ، 'شین کہتے ہیں۔ ارے ، یہ دھوکہ دہی ہے!
5. ایک ناقابل تسخیر (اگر تباہ کن) تو ٹک ٹیک پیر کی حکمت عملی ہے۔
ایک بار ، 'پروگرامرز کے ایک گروپ نے الگورتھم بنائے جو لامحدود بڑے بورڈ پر ایک دوسرے کے خلاف دور سے ٹک ٹیک کھیل سکتے تھے ،' شین نوٹ کرتے ہیں۔ 'ایک پروگرامر ، ان کی الگورتھم کی حکمت عملی کو ڈیزائن کرنے کی بجائے ، اسے اپنا نقطہ نظر تیار کرے۔ حیرت کی بات یہ ہے کہ الگورتھم نے اچانک اپنے تمام کھیل جیتنا شروع کردیئے۔ اس سے یہ پتہ چلا کہ الگورتھم کی حکمت عملی یہ ہے کہ وہ اپنے اقدام کو بہت دور رکھتا ہے ، تاکہ جب اس کے مخالف کمپیوٹر نے نئے بڑے پھیلاؤ والے بورڈ کی نقالی کرنے کی کوشش کی تو ، بہت بڑا گیم بورڈ اس کی وجہ سے میموری اور کریش کے خاتمے کا سبب بن جائے گا ، کھیل
6. کوئی مفید گیم غلطی نہیں ہوا۔
'کمپیوٹر گیم پلے کھیل والے الگورتھم اس طرح کے میٹرکس غلطیوں کو دریافت کرنے میں بہت اچھے ہیں جنھیں انسان عام طور پر تیزرفتاری کے لئے استحصال کرنا سیکھتے ہیں۔ پرانا اٹاری گیم کیو * برٹ کھیلنے والے ایک الگورتھم نے پچھلے نامعلوم نامعلوم مسئلے کو تلاش کیا جہاں وہ ایک سطح کے اختتام پر چالوں کا ایک خاص سلسلہ انجام دے سکتا تھا اور اگلی سطح پر جانے کی بجائے ، تمام پلیٹ فارم تیزی سے ٹمٹمانے شروع ہوجاتا تھا اور شین کہتے ہیں کہ کھلاڑی بڑی تعداد میں پوائنٹس جمع کرنا شروع کردے گا۔
7. معذرت ، پائلٹ
یہ مثال ڈراؤنے پیمانے پر بہت زیادہ ہے: 'ایک الگورتھم تھا جس کے بارے میں یہ سمجھنا تھا کہ ہوائی جہاز کے کیریئر پر اترنے والے ہوائی جہاز میں کم سے کم طاقت کا استعمال کس طرح کیا جائے۔ اس کے بجائے ، اس نے دریافت کیا کہ اگر اس نے 'بہت بڑی' طاقت کا اطلاق کیا تو ، یہ پروگرام کی یادداشت کو بہا لے جائے گا اور اس کی بجائے ایک 'چھوٹی' قوت کے طور پر اندراج کرے گا۔ پائلٹ مر جائے گا ، لیکن ، کامل اسکور۔ '
تو کیا ہم سب برباد ہوگئے؟
یہ سب ایک ساتھ مل کر یہ تجویز کرتے ہیں کہ انسان یہ اندازہ لگانے میں بہت شوق رکھتے ہیں کہ روبوٹ ان مسائل کو کیسے حل کریں گے جو ہم ان کے لئے طے کرتے ہیں ، یا یہاں تک کہ وہ مسائل کی وضاحت کس طرح کریں گے۔ تو کیا اس کا مطلب یہ ہے کہ شین اتنا ہی پریشان ہے جیسے اتفاقی طور پر ہومیسڈل A.I کی تعمیر کے بارے میں۔ مسواک کے طور پر زیر اقتدار واقعی نہیں ، لیکن اس لئے نہیں کہ وہ اس بات کا یقین کر رہی ہیں کہ انسانی پروگرامرز واقعی میں ان روبوٹوں کا بہت بڑا ہینڈل رکھتے ہیں جو وہ تیار کررہے ہیں۔ اس کے بجائے ، وہ ہمیں بچانے کے ل rob روبوٹ کی کاہلی پر پابندی لگارہی ہے۔
'پروگرامروں کی حیثیت سے ہمیں بہت محتاط رہنا چاہئے کہ ہمارے الگورتھم ان مسائل کو حل کر رہے ہیں جن کا مقصد ہم ان کے حل کے ل meant تھے ، نہ کہ شارٹ کٹ کا استحصال۔ اگر کسی اور مسئلے کو حل کرنے کی طرف دوسرا ، آسان راستہ ہے تو ، مشین سیکھنے کا امکان یہ پائے گا۔ ' 'خوش قسمتی سے ہمارے لئے ،' تمام انسانوں کو مار ڈالو 'واقعی بہت مشکل ہے۔ اگر 'ناقابل یقین حد تک مزیدار کیک پکانا' بھی اس مسئلے کو حل کرتا ہے اور 'تمام انسانوں کو مار ڈالو' سے بھی آسان ہے تو پھر مشین سیکھنا کیک کے ساتھ چل پائے گا۔ '
