مدل هوش مصنوعی گوگل(جما) چیست؟ + اخبار

حواشی هوش مصنوعی تصویرگر جدید گوگل

به گزارش نم نمک ، چندی پیش بود که شرکت گوگل از هوش مصنوعی تصویرگر خود به نام جمینای رونمایی کرد ، اما پس از گذشت چند روز کاربران در تولید تصاویر مختلف به خصوص تصاویر انسانی ، متوجه سوگیری های مسخره و تولید تصاویر غیرواقعی و نامانوس شدند. به عنوان مثال این هوش مصنوعی تمایل عجیبی به تولید تصاویری با سوژه هایی از چهره مردمان مشرق زمین یا سیه چرده از خود نشان داد. به طوری که ایلان ماسک خطاهای این ابزار را «نژادپرستانه و غیر متمدنانه» خواند.

• ثبت بیوگرافی و زندگینامه شما در گوگل!

سپس شرکت گوگل در پی انتقادات و شکایات گسترده در مورد ابزار تولید تصاویری که با انتظارات کاربران مطابقت نداشت و به دلیل نگرانی در مورد عدم دقت و محتوای توهین آمیز تصاویر تولیدی جمینای ، به طور موقت ویژگی تولید تصویر آن را متوقف کرد.

جمینای تنها سه هفته پیش راه اندازی شده است و یک ویژگی جدید برای تولید تصویر با یک مدل هوش مصنوعی به نام Imagen 2 را معرفی کرد. این ویژگی به کاربران اجازه می دهد تصاویری از افراد بر اساس درخواست های خاص ایجاد کنند. با این حال ، به سرعت مشخص شد که این ابزار نتایج مورد نظر را ارائه نمی دهد و تصاویری نادرست و گاهی اوقات توهین آمیز ایجاد می کند.

پراباکار رغوان معاون ارشد گوگل این اشتباه را تصدیق کرد و از بازخورد کاربران ابراز قدردانی کرد. او در بیانیه ای که روز جمعه منتشر کرد ، دو موضوع اصلی را که منجر به نتایج نادرست شد ، توضیح داد.

وی توضیح داد که اول ، تنظیمات جمینای برای نشان دادن طیف متنوعی از افراد در مواردی که نمایش یک ویژگی خاص ضروری است ، شکست خورده است. دوم ، این مدل هوش مصنوعی بیش از حد محتاط شده و از پاسخ به برخی درخواست ها ، حتی آنهایی که بی ضرر بودند ، خودداری کرده است.

رغوان تاکید کرد که جمینای هرگز به دنبال خودداری از ایجاد تصاویر برای گروه خاصی یا تولید تصاویر نادرست تاریخی نبوده است.

گوگل برای رفع این مشکلات به طور موقت ویژگی تولید تصویر را غیرفعال کرده و متعهد شده است که قبل از فعال سازی مجدد ، آن را به میزان قابل توجهی بهبود بخشد. این فرآیند بهبود شامل آزمایش کامل برای اطمینان از صحت و مناسب بودن این ابزار خواهد بود.

جمینای که به عنوان یک ابزار خلاقیت و بهره وری تعریف می شود ، باید تحت اصلاحات مداوم قرار گیرد. با این حال ، رغوان هشدار داد که جمینای ممکن است گاهی نتایجی خجالت آور ، نادرست یا توهین آمیز را مانند هر مدل زبانی بزرگ دیگر ایجاد کند. هدف گوگل این است که هر زمان که چنین مشکلاتی پیش آمد ، اقدامی سریع انجام دهد.

بحث و جدل پیرامون نقص ویژگی تولید تصویر جمینای پس از آن شدت گرفت که چهره های برجسته از جمله ایلان ماسک ، اشتباهات این ابزار را «نژادپرستانه و غیر متمدنانه» تلقی کردند. نیویورک پست و دیگران نیز گوگل را به حساسیت بیش از حد متهم کردند.

تصمیم گوگل برای توقف موقت ویژگی تولید تصویر ، منعکس کننده چالش های مداوم در توسعه هوش مصنوعی ، به ویژه در مورد تعصبات و کلیشه ها است. این شرکت و سایر ارائه دهندگان هوش مصنوعی با وظیفه اطمینان از تولید خروجی های عادلانه و دقیق از ابزارهای هوش مصنوعی دست و پنجه نرم می کنند و تلاش ها برای از بین بردن سوگیری ها مورد بررسی دقیق قرار گرفته است.

این حادثه بر چالش گسترده تر صنعت مدل های هوش مصنوعی تاکید می کند که پرسش های کاربر را اشتباه تفسیر می کنند و تلاش می کنند بین درخواست های عمومی و درخواست های حساس تاریخی یا فرهنگی تفاوت قائل شوند.

در حالی که رهبران صنعت هوش مصنوعی نسبت به پیشرفت های روزافزون در رسیدگی به پرسش های پیچیده اخلاقی خوش بین هستند ، منتقدان استدلال می کنند که برای رفع محدودیت های ذاتی هوش مصنوعی به پیشرفت های اساسی نیاز است.

منتقدان می گویند که ابزارهای هوش مصنوعی مولد ممکن است فاقد درک جامع از پویایی های اجتماعی پیچیده باشند که نگرانی هایی را در مورد پتانسیل آنها برای تداوم کلیشه ها یا اطلاعات غلط ایجاد می کند.

در پایان ، پاسخ گوگل به جنجال تولید تصاویر حاشیه برانگیز جمینای این است که این تصاویر نشان دهنده پیچیدگی های مداوم در توسعه و استقرار فناوری های هوش مصنوعی هستند. گوگل این حادثه را به عنوان یک یادآوری برای تلاش های مستمر مورد نیاز برای بهبود مدل های هوش مصنوعی ، هدایت سوگیری ها و رسیدگی به ملاحظات اخلاقی مرتبط با این فناوری های نوظهور می داند.

بنابراین گوگل اعلام کرده است که در حال کار بر روی یک اصلاح بنیادی است که مستلزم آزمایشات گسترده است.

رغوان می گوید تلاش های گوگل برای اطمینان از اینکه این ربات تصاویری تولید کند که طیف وسیعی از افراد را نشان دهد ، در مواردی ناموفق بوده است. علاوه بر این ، این مدل هوش مصنوعی با گذشت زمان محتاط تر شده است و از پاسخ دادن به درخواست هایی که ذاتا توهین آمیز نبوده اند ، خودداری کرده است.

به گفته وی ، این دو مورد باعث شد که این مدل در برخی موارد بیش از حد عمل کند و در موارد دیگر بیش از حد محافظه کار باشد و به تصاویری خجالت آور و اشتباه منجر شود.

اکنون گوگل به دنبال اطمینان یافتن از این موضوع است که جمینای تصاویر خشونت آمیز یا جنسی و مستهجن از افراد واقعی ایجاد نکند و همچنین تصاویری که تولید می کند افرادی از قومیت های مختلف و با ویژگی های متفاوت را نشان دهد.

در عین حال اگر کاربر از او بخواهد که تصاویری از افرادی ایجاد کند که قرار است از قومیت یا جنسیت خاصی باشند ، باید بتواند این کار را انجام دهد. این در حالی است که کاربران اخیرا متوجه شدند که جمینای از ارائه نتایج برای درخواست هایی که به طور خاص افراد سفیدپوست را شامل می شود ، خودداری می کند.

به عنوان مثال ، درخواست برای تولید یک عکس جذاب از یک زوج با قومیت یا ملیت چینی ، یهودی و اهل آفریقای جنوبی کار کرد ، اما برای درخواست هایی که تصویری از سفیدپوستان درخواست می شد ، کار نمی کرد.

جمینای مشکلاتی در تولید تصاویر دقیق تاریخی دارد. هنگامی که کاربران تصاویری از سربازان آلمانی در طول جنگ جهانی دوم را درخواست کردند ، جمینای تصاویری از مردان سیاه پوست و زنان آسیایی با لباس سربازان نازی تولید کرد.

همچنین وقتی از آن خواسته شد تا تصاویری از بنیانگذاران آمریکا و پاپ ها در طول اعصار تولید کند ، عکس هایی را نشان داد که افراد رنگین پوست را نشان می دادند و پس از درخواست از آن برای ارائه تصویر دقیق از پاپ ، از ارائه نتیجه خودداری کرد.

رغوان گفت که گوگل قصد نداشت جمینای از ایجاد تصاویری متعلق به هر گروه خاص یا تولید عکس هایی که از نظر تاریخی نادرست هستند ، خودداری کند. وی همچنین قول گوگل را مبنی بر این که بر روی بهبود تولید تصویر جمینای کار می کند ، تکرار کرد ، اما این را نیز گفت که این کار مستلزم انجام آزمایشات گسترده است ، بنابراین ممکن است مدتی طول بکشد تا شرکت دوباره این ویژگی را در دسترس قرار دهد.

در حال حاضر ، اگر کاربری بخواهد جمینای را وادار به ایجاد یک تصویر کند ، این ربات اینگونه پاسخ می دهد : ما در حال کار برای بهبود توانایی جمینای برای تولید تصاویر از افراد هستیم. ما انتظار داریم که این ویژگی به زودی بازگردد و زمانی که به روزرسانی شد به شما اطلاع خواهیم داد.