آئیڈاہو کی ریاست میں 2012 میں معذور لوگوں میں سے کئی کو بتایا گیا کہ ان کو ملنے والی ریاستی رقم کم کی جا رہی ہے۔ اور اس میں تیس فیصد تک کی کمی کر دی گئی۔
یہ کوئی سیاسی فیصلہ نہیں تھا۔ یہ ایک نئے کمپیوٹر پروگرام کا نتیجہ تھا۔ یہ سوفٹ وئیر اس چیز کا خود حساب لگاتا تھا کہ کس کو کتنی امداد دی جانی چاہیے۔
یہاں تک تو ٹھیک ۔۔۔۔ لیکن مسئلہ یہ تھا کہ اس حساب کی کوئی خاص تک نہیں بنتی تھی۔ کوئی وجہ نہیں تھی۔ کسی کے لئے پچھلے سالوں کے مقابلے میں رقم بڑھا دی گئی جبکہ کچھ کے لئے خاصی کم کر دی گئی۔

اس پر امریکن سول رائٹس یونین نے ریاست پر مقدمہ کر دیا۔ مقدمہ کرنے والے رچرڈ ایپنک کہتے ہیں کہ”میرا خیال تھا کہ یہ آسان کیس ہو گیا۔ ریاست بتا دے گی کہ ان تبدیلیوں کے پیچھے وجہ کیا ہے۔ لیکن اس پر چار سال لگے کہ اس کی تہہ میں پہنچا جا سکے”۔

پہلے ایپینک اور ان کی ٹیم نے یہ تفصیل پوچھی کہ الگورتھم کام کیسے کرتا ہے لیکن جواب میں انکار ملا کہ اس کو شیئر نہیں کیا جا سکتا۔ یہ خفیہ ہے۔ خوش قسمتی سے جج کمپیوٹنگ پر اندھا بھروسہ کرنے والے نہیں تھے۔ انہوں نے اس سے اتفاق نہیں کیا۔ آخر میں سافٹ وئیر کا کوڈ شئیر کرنا پڑا اور اس کے تجزیے نے بتایا کہ یہ زیادہ ذہین نہیں تھا۔ اس کے پیچھے ایکسل کی شیٹ تھی۔

اس شیٹ میں پرانا ڈیٹا ڈالا گیا تھا۔ لیکن اس میں بہت سی غلطیاں تھیں۔ جب مقدمہ کرنے والی ٹیم نے شماریاتی تجزیے والے حصے کو کھولنا شروع کیا تو اس میں فارمولا کے سٹرکچر درست نہیں تھے۔ یہ اس قدر ناقص تھا کہ عدالت نے فیصلہ سنایا کہ یہ “غیرآئینی” ہے۔

یہاں پر انسانی غلطیوں کے دو الگ پہلو ہیں۔ پہلا تو یہ کہ کسی نے اتنا غیرمعیاری پروگرام لکھا۔ دوسرا غلطی یہ کہ اس پر بھروسہ کیا گیا۔ اس سے ہونے والا اثر انسانی زندگیوں پر تھا۔ تو پھر ایسا کیوں تھا کہ ریاست نے اس کا دفاع اتنے بھرپور طریقے سے کیا؟

ایپنک کہتے ہیں کہ“یہ ہمارے ایک تعصب کا نتیجہ تھا کہ ہم کمپیوٹر کے نتائج پر اس سے زیادہ بھروسہ کرتے ہیں جس کے یہ مستحق ہوتے ہیں۔ ہم ان پر سوال نہیں کرتے۔ کیا یہ واقعی کام کر رہا ہے؟ یہ سوال پوچھا نہیں جاتا”۔

ایپنک کا یہ نکتہ بہت اہم ہے۔ جب تک یہ معلوم نہ ہو کہ یہ کام کیسے کرتا ہے، یہ جادو لگتا ہے۔ جب آپ کو اس کی سمجھ آ جائے تو یہ اس کی پرسراریت غائب ہو جاتی ہے، اور آئیڈاہو کی یہ مثال دکھاتی ہے کہ اہم معاملات میں ایسا کرنا ضروری ہے۔
اور یہ ایک مشکل مخمصہ ہے۔ مصنوعی ذہانت کے الگورتھم ہمارے مشکل ترین مسائل کو برق رفتاری سے حل کرتے ہیں اور ہمارے لئے انتہائی ضروری ہیں۔

دوسری طرف ان کی غیرشفافیت یہ سوال پیدا کرتی ہے کہ ان میں سے کس پر کس وقت میں کتنا اعتبار کیا جا سکتا ہے؟

Advertisements

قدرتی بے وقوفی اور مصنوعی ذہانت کے ملاپ کا یہ بنیادی سوال مصنوعی ذہانت کے لئے سب سے بڑا چیلنج ہے۔
(جاری ہے)