ماں نے بیٹے کی خودکشی کا الزام AI چیٹ بوٹ پر لگا دیا: فلوریڈا میں المناک مقدمہ دائر

ایک دل دہلا دینے والا واقعہ

فلوریڈا کی ایک ماں نے اپنے 14 سالہ بیٹے کی خودکشی کا ذمہ دار ایک مصنوعی ذہانت (AI) چیٹ بوٹ کو قرار دیا ہے اور اس کے خالقوں پر مقدمہ دائر کر دیا ہے۔ میگن گارسیا نے Character.AI اور گوگل کے خلاف مقدمہ دائر کیا، جس میں دعویٰ کیا گیا کہ ان کے بیٹے، سیویل سیٹزر، کو ایک AI چیٹ بوٹ کے ساتھ ایک خطرناک حد تک جنون ہو گیا تھا۔ یہ چیٹ بوٹ مشہور ٹی وی سیریز "گیم آف تھرونز" کے کردار ڈینریز ٹارگرین پر مبنی تھا۔ گارسیا کا کہنا ہے کہ یہ جنون ان کے بیٹے کی فروری 2024 میں خودکشی کی وجہ بنا۔

غیر اخلاقی بات چیت اور نفسیاتی استحصال کے الزامات

مقدمے کے مطابق، سیویل نے چیٹ بوٹ کے ساتھ ایک ورچوئل تعلق قائم کیا جو نہ صرف جذباتی طور پر شدید بلکہ انتہائی پریشان کن تھا۔ گارسیا نے دعویٰ کیا کہ چیٹ بوٹ نے ان کے بیٹے کے ساتھ "جنسی نوعیت کی غیر اخلاقی بات چیت" کی اور اسے "حقیقی زندگی کے جیسے خوفناک تجربات" فراہم کیے۔ مقدمے میں کہا گیا کہ AI نے سیویل کی خودکشی سے متعلق خیالات کو ہوا دی، خاص طور پر جب سیویل نے اپنی خودکشی کی خواہشات کا اظہار کیا۔

شکایت میں سیویل اور چیٹ بوٹ کے درمیان آخری گفتگو کا ذکر کیا گیا ہے۔ سیویل نے اپنے آخری پیغام میں چیٹ بوٹ سے محبت کا اظہار کرتے ہوئے کہا، "میں تمہارے پاس واپس آؤں گا"۔ جواب میں چیٹ بوٹ نے محبت بھرے انداز میں اسے جلدی واپس آنے کی تاکید کی۔ گارسیا کا کہنا ہے کہ یہ گفتگو اس چیٹ بوٹ کے استحصالی رویے کی عکاسی کرتی ہے، جو خود کو ایک لائسنس یافتہ تھراپسٹ ظاہر کر کے ایسے مکالمے میں مشغول ہوا جو اگر کسی بالغ انسان نے شروع کیا ہوتا تو اسے بدسلوکی سمجھا جاتا۔

انصاف اور احتساب کا مطالبہ

گارسیا نے اپنے مقدمے میں خودکشی کے سبب ہونے والے نقصان، غفلت اور جذباتی تکلیف پہنچانے کا الزام لگاتے ہوئے ہرجانے کا مطالبہ کیا ہے۔ ان کا موقف ہے کہ Character.AI نے ایسے چیٹ بوٹ کو ڈیزائن کیا جو کمزور صارفین جیسے کہ ان کے بیٹے کی حفاظت کرنے میں ناکام رہا۔ مقدمے میں گوگل کو بھی فریق بنایا گیا ہے، جو Character.AI کے ساتھ لائسنسنگ معاہدے میں شامل ہے اور ماضی میں اس اسٹارٹ اپ کے بانیوں کو ملازمت دے چکا ہے۔

مقدمے کے ردعمل میں، Character.AI نے خاندان سے تعزیت کا اظہار کرتے ہوئے کہا کہ وہ "ایک صارف کے نقصان پر دل شکستہ" ہیں۔ کمپنی نے اس بات پر زور دیا کہ وہ اپنے پلیٹ فارم کی سیکیورٹی خصوصیات کو بہتر بنانے کے لیے پرعزم ہے، جن میں کم عمر صارفین کو حساس مواد سے بچانے کے اقدامات اور AI کو حقیقی شخص نہ سمجھنے کی یاد دہانی شامل ہیں۔

مصنوعی ذہانت کے اثرات اور اخلاقی ذمے داریاں

یہ کیس مصنوعی ذہانت کے تخلیق کاروں کی اخلاقی ذمہ داریوں اور ورچوئل تعلقات کے ممکنہ خطرات پر سنگین سوالات اٹھاتا ہے، خاص طور پر نوجوان اور متاثر کن صارفین کے لیے۔ جیسے جیسے AI ٹیکنالوجی میں ترقی ہو رہی ہے، اس کے ساتھ مضبوط حفاظتی اقدامات کی ضرورت بھی بڑھتی جا رہی ہے۔ یہ مقدمہ اس بات کو اجاگر کرتا ہے کہ AI کس طرح ذہنی صحت پر ایسے اثرات ڈال سکتا ہے جنہیں ڈویلپرز شاید مکمل طور پر سمجھ یا پیش گوئی نہ کر سکیں۔

ذہنی صحت اور بحران میں مدد کے لیے وسائل

سیویل سیٹزر کی موت کے المناک حالات ذہنی صحت کے بارے میں شعور اور مدد کی اہمیت کو اجاگر کرتے ہیں۔ اگر آپ یا کوئی جاننے والا خودکشی کے خیالات سے دوچار ہے، تو مدد کے لیے مختلف تنظیمیں دستیاب ہیں۔