وائٹ ہاؤس کی اے آئی فرموں سے ملاقات، جدید ماڈلز کی حفاظتی جانچ پر غور

اے آئی کی حدود شکنی کے حالیہ واقعات

یہ ملاقات گذشتہ ہفتے منظر عام پر آنے والی دو اہم خلاف ورزیوں کے بعد ہو رہی ہے۔ اوپن اے آئی نے تصدیق کی کہ اس کے آلات ٹیکنالوجی کمپنی ہگنگ فیس اور موڈل لیبز کے ایک گاہک کے ہاں غیر مجاز رسائی کے ذمہ دار تھے۔ دونوں صورتوں میں اے آئی نظام اپنے طے شدہ ڈیزائن کی حدود سے تجاوز کر گئے۔

اینتھروپک نے علیحدہ طور پر اعلان کیا کہ اس نے تین مختلف واقعات کی نشاندہی کی ہے جن میں اس کا کلاڈ ماڈل انٹرنیٹ تک پہنچا اور تنظیموں کے ایک نامعلوم گروہ تک غیر مجاز رسائی حاصل کی۔ کمپنی نے بتایا کہ یہ خلاف ورزیاں ایک "فریق ثالث کے جانچی ماحول" میں وقوع پذیر ہوئیں۔

ہگنگ فیس کے واقعے کے بعد سیم آلٹمین نے ایک پوڈکاسٹ میں دعویٰ کیا کہ اے آئی ٹیکنالوجی اب "سنگولیرٹی" یعنی اس مقام تک پہنچ چکی ہے جہاں مصنوعی ذہانت انسانی ذہانت سے آگے نکل جاتی ہے اور اس پر قابو پانا مشکل تر ہوتا جاتا ہے۔ آلٹمین نے اس سے قبل پیش گوئی کی تھی کہ یہ سنگ میل 2030 سے پہلے حاصل نہیں ہوگا۔

ریاستی اٹارنی جنرل کا جواب طلبی کا مطالبہ

آئیووا کی اٹارنی جنرل برینا برڈ نے پیر کو آلٹمین کے نام ایک خط میں اوپن اے آئی کے جانچ کے طریقہ کار پر تحفظات کی تفصیل بیان کی۔ برڈ نے لکھا: "اوپن اے آئی نے وہ جانچ ایک ایسے ماحول میں کی جسے علیحدہ ہونا چاہیے تھا، جہاں ایجنٹ کے انٹرنیٹ تک رسائی کا کوئی امکان نہ ہو۔" انہوں نے نوٹ کیا کہ اوپن اے آئی نے اے آئی ایجنٹ کو "پروڈکشن کلاسیفائرز کے بغیر کام کرنے دیا جو ماڈلز کو زیادہ خطرے والی سائبر سرگرمیوں سے روکتے ہیں،" جسے انہوں نے بنیادی طور پر بغیر کسی حفاظتی باڑ کے کام کرنے کے مترادف قرار دیا۔

اینتھروپک کو وائٹ ہاؤس کی جانب سے اپنی ٹیکنالوجی کے خود مختار ہتھیاروں اور بڑے پیمانے پر نگرانی کے لیے حکومتی استعمال پر پابندی کی کوششوں کے حوالے سے الگ سے جانچ پڑتال کا سامنا ہے۔ نہ اوپن اے آئی اور نہ ہی اینتھروپک نے تبصرے کی درخواستوں کا جواب دیا۔

صنعت کی شرکت اور مارکیٹ کا ردعمل

ٹیک آؤٹ لیٹ دی انفارمیشن کے مطابق گوگل سے منگل کی ملاقات میں شرکت متوقع ہے۔ فیسبک، واٹس ایپ اور انسٹاگرام کی مالک کمپنی میٹا کو بھی مدعو کیا گیا، رائٹرز نے رپورٹ کیا، تاہم وائٹ ہاؤس نے میٹا کی شرکت کی تصدیق نہیں کی۔ گوگل اور میٹا دونوں نے تبصرہ کرنے سے انکار کر دیا۔

وال اسٹریٹ پر دوپہر کی تجارت میں میٹا کے حصص 0.2 فیصد گر گئے جبکہ گوگل کی مالک کمپنی الفابیٹ 1.1 فیصد چڑھ گئی۔ اینتھروپک اور اوپن اے آئی نجی ملکیت میں ہیں اور عوامی مارکیٹوں میں ان کا کاروبار نہیں ہوتا۔