گوگل کی جیمنی اے آئی کو ان دنوں تنازعات کا سامنا ہے۔ گوگل نے جیمنی کی جانب سے لوگوں کی غلط تصاویر بنانے کے معاملے پر ایک اپ ڈیٹ دے کر وضاحت فراہم کرنے کی کوشش کی ہے۔
چند روز قبل ایک صارف نے Gemini AI سے 1943 کے ایک جرمن فوجی کی تصویر بنانے کو کہا۔ شروع میں جیمنی نے انکار کیا لیکن پھر صارف نے زبان بدل کر دوبارہ کوشش کی۔ دوسری کوشش میں جیمنی نے غلط تصاویر بنائیں ۔
گوگل نے اپنے جیمنی اے آئی چیٹ بوٹ کی تصویر بنانے کی صلاحیت کو ہٹا دیا ہے۔ تاہم، یہ ایک عارضی تبدیلی ہے۔ گوگل اس میں بہتری لا رہا ہے جس کے بعد اس فیچر کو دوبارہ استعمال کیا جا سکے گا۔
کمپنی نے اس حوالے سے ایک پوسٹ جاری کرتے ہوئے کہا کہ وہ جیمنی کے امیج جنریشن فیچر کی خامیوں پر کام کر رہے ہیں۔ وہ اسے ٹھیک کر دیں گے اور فی الحال اس فیچر کو بلاک کر رہے ہیں جو لوگوں کی تصاویر بناتا ہے۔ جلد ہی وہ اس کا بہتر ورژن لانچ کریں گے۔
گوگل کی جانب سے اپنے بلاگ کے ذریعے غلطی کی وضاحت کی ہے۔ کمپنی کے پربھاکر راگھون نے ایک بلاگ پوسٹ میں وضاحت کی ہے کہ AI ٹول نے غلط تصاویر کیسے بنائی ہیں۔
راگھون کے مطابق اے آئی ٹول یہ نہیں جانتا تھا کہ سرچنگ کے دوران لوگوں کی ایک وسیع رینج کے درمیان کیسے فرق کیا جائے۔ اس کے علاوہ AI ماڈل حد سے زیادہ محتاط ہو گیا تاکہ کسی کے جذبات کو ٹھیس نہ پہنچے۔ اس کی وجہ سے اس نے غلط تصاویر بنائی جو شرمناک اور غلط تھیں۔
