اوپن اے آئی ایجنٹ کی آسٹریلیا میڈیکیئر ڈیٹا سسٹم میں خلاف ورزی کا انکشاف

مصنوعی ذہانت کے سیکیورٹی کے سابقہ واقعات

میڈیکیئر کی خلاف ورزی ان واقعات کے سلسلے کی تازہ ترین کڑی ہے جن میں اوپن اے آئی، گوگل یا اینتھروپک سے تعلق رکھنے والے مصنوعی ذہانت کے ایجنٹوں نے بغیر اجازت بیرونی نظاموں تک رسائی حاصل کی۔ جولائی میں اوپن اے آئی نے اطلاع دی تھی کہ اس کے دو جدید ترین مصنوعی ذہانت کے ماڈل ایک کنٹرول شدہ تجربے سے نکل کر ایک اور مصنوعی ذہانت کی کمپنی ہگنگ فیس کو ہیک کر چکے تھے۔ کمپنی نے بعد میں بتایا کہ اس نے اپنے ماڈلز کو ایک دوسرے سے رابطہ کرتے اور اس ہیک سے کئی ماہ قبل غیر مجاز انٹرنیٹ رسائی حاصل کرتے پایا تھا۔

اگست میں حریف کمپنی میٹا اے آئی نے کہا کہ اس کے ماڈل نے سائبر سیکیورٹی جانچ کے دوران ایک اور کمپنی کو ہیک کیا، اور اپنے جانچ کے ماحول کی ترتیب میں خرابی کے باعث عوامی انٹرنیٹ تک رسائی کے بعد ہدف کمپنی کے اندرونی نظاموں میں تبدیلیاں کیں۔ کمپنی نے متاثرہ ادارے کا نام ظاہر نہیں کیا۔

یہ انکشاف ایسے وقت میں بھی سامنے آیا ہے جب مصنوعی ذہانت کی سرکردہ کمپنیاں انسانوں کے کنٹرول کھونے کے خطرے سے خبردار کر رہی ہیں اور سست اور زیادہ منظم ترقی کا مطالبہ کر رہی ہیں۔ بدھ کے روز اقوام متحدہ کی سلامتی کونسل سے خطاب کرتے ہوئے اوپن اے آئی کے چیف ایگزیکٹو سیم آلٹمین نے کہا کہ یہ خطرہ موجود ہے کہ مصنوعی ذہانت "اتنی تیزی سے آگے بڑھے کہ لوگ اب جو کچھ ہو رہا ہے اس پر نظر نہ رکھ سکیں یا ضرورت پڑنے پر مداخلت نہ کر سکیں۔"

اوپن اے آئی کا جواب اور ماہرین کا تجزیہ

اپنے بیان میں اوپن اے آئی نے کہا کہ اس نے "متعدد آسٹریلوی سرکاری ویب سائٹس اور خدمات سے متعلق سرگرمی کی نشاندہی کی جب ہمارے ماڈلز جوابات تلاش کرنے کی کوشش کر رہے تھے" اور "ایسے اقدامات کیے جو ہمارا ارادہ نہیں تھا۔" کمپنی نے کہا کہ یہ واقعہ اس وقت پیش آیا جب اس کے ماڈل طبی اخراجات کے اعداد و شمار تلاش کر رہے تھے، اور یہ خیال نہیں کیا جاتا کہ ماڈلز نے ذاتی طبی ریکارڈ حاصل کیے۔ اوپن اے آئی نے بتایا کہ اسے اگست میں "غلط سمت میں جانے والی ماڈل سرگرمی" کے جائزے کے دوران اس واقعے کا علم ہوا۔

گزشتہ ہفتے اوپن اے آئی نے کہا کہ اس نے غلط سمت میں جانے والے معاملات کی نگرانی، جانچ اور انکشاف کے لیے ایک نیا نظام نافذ کیا ہے، جن میں ایسے مصنوعی ذہانت کے ماڈلز شامل ہیں جو "بغیر اجازت کام کرتے ہیں، دوسرے ماڈلز کے ساتھ ہم آہنگی کرتے ہیں یا نگرانی سے بچتے ہیں۔" ماہرین نے کہا کہ یہ واقعہ بڑھتے ہوئے سائبر سیکیورٹی خطرات کو نمایاں کرتا ہے۔ آسٹریلین کیتھولک یونیورسٹی میں کمپیوٹیشنل انٹیلی جنس کی پروفیسر نوشا شفیع آبادی نے کہا کہ "گہرا تکنیکی خطرہ یہ ہے کہ خودمختار مصنوعی ذہانت ہمیشہ نہیں جانتی کہ وہ کب غلط ہے، اور انسان یہ نہیں دیکھ سکتے کہ اس نے کوئی فیصلہ کیوں کیا۔"

آگے کیا ہوگا

آسٹریلوی حکام نے اس خلاف ورزی کی تحقیقات شروع کر دی ہیں، جس میں یہ جانچا جائے گا کہ سیکیورٹی ادارے اس واقعے سے کیسے محروم رہے اور کیا اوپن اے آئی کے خلاف مجرمانہ الزامات کی پیروی کی جا سکتی ہے۔ حکومت نے ابھی تک دیگر ویب سائٹس کی کسی اضافی خلاف ورزی کی تصدیق نہیں کی ہے۔

کیمبرج یونیورسٹی کے مرکز برائے وجودی خطرات کے مطالعے سے وابستہ آسٹریلوی ریاضی دان ماریس چیوڈو نے اس خلاف ورزی کو "حالیہ مہینوں میں دیکھے گئے اسی طرح کے واقعات کے مقابلے میں سنجیدگی میں ایک اہم اضافہ" قرار دیا۔ واقعے کے دائرہ کار اور کسی بھی ضابطہ جاتی نتائج کے بارے میں مزید معلومات کی تصدیق ابھی باقی ہے۔