دوشنبه ۰۴ تیر ۱۴۰۳
۱۴:۳۹ - ۰۹ خرداد ۱۴۰۳ کد خبر: ۱۴۰۳۰۳۰۵۳۳
فناوری اطلاعات و ارتباطات

آن پیراهن معروف چه رنگی بود، آبی-مشکی یا سفید-طلایی؟ هوش مصنوعی هم اشتباه کرد!

آزمایشگاه هوش مصنوعی, تراشه غیرآمریکایی,خطاهای بصری
مدل‌های هوش مصنوعی در برابر توهمات و خطاهای بصری که ذهن انسان را فریب می‌دهند، چه واکنشی نشان می‌دهند؟ پژوهشگران آزمایش‌هایی را ترتیب داده‌اند که باعث ایجاد خطای دید می‌شود و نتایج این آزمایش‌ها، جنبه‌های جالبی از AI را آشکار کرد.

به گزارش خبرآنلاین؛ سیستم بینایی ما انسان‌ها به‌گونه‌ای فرگشت یافته است که اجسام را به رنگ‌های ثابت در ذهن ما ثبت می‌کند؛ بنابراین چه زمان طلوع خورشید و چه زمانی که هوا تاریک است، حتی اگر برگ رنگ‌های مختلفی را منعکس کنند، شما بازهم برگ‌ها را سبز می‌بینید. چنین انطباقی در مغز ما باعث دیدن رنگ‌های کاذب و درنتیجه خطای دید می‌شود. پژوهشگران درآزمایشی، GPT-V4 (نسخه اخیر ChatGPT) را در معرض نوعی فریب‌ بصری قرار دادند که موجب خطای دید در افراد می‌شود. پاسخ‌های این ربات اغلب با پاسخ‌های احتمالی افراد مطابقت داشت.

آزمایشگاه هوش مصنوعی, تراشه غیرآمریکایی,خطاهای بصری

هزینه ساخت این تراشه غیرآمریکایی، نصف بودجه کشور است!

ازآنجایی‌که دانشمندان، GPT را با تصویری که خطای دید رنگی داشت امتحان کردند، در ابتدا تصور کردند که شاید این ربات داده‌های تصاویر را پردازش می‌کند و با حذف بخشی از آن‌ها به پاسخ می‌رسد. اما به گفته OpenAI، چت‌جی‌پی‌تی دمای رنگ یا سایر ویژگی‌های تصویر را قبل از تفسیر GPT-V4 تنظیم نمی‌کند. بنابراین محقق این آزمایش بر این باور است که این امکان وجود دارد که ربات، زبان بینایی را یاد گرفته و رنگ را در متن تفسیر کند، اشیاء درون تصویر را در مقایسه با یکدیگر ارزیابی کند و پیکسل‌ها را بر این اساس، مشابه آنچه مغز انسان انجام می‌دهد، ارزیابی کند.

محققی دیگر که با این نظر موافق است، توضیح می‌دهد که این مدل می‌تواند رنگ‌ها را مانند انسان‌ها به‌صورت متنی یاد بگیرد،  شیئی را شناسایی کند و برای شکل ظاهری این شیء پاسخ داشته باشد. به‌عنوان‌مثال، در مورد لباسی که چند سال قبل در فضای مجازی موردبحث قرارگرفته بود، دانشمندان فکر می‌کنند که افراد مختلف، بر اساس فرضیات خود در مورد منبع نوری که باعث دیده شدن رنگ پارچه می‌شود، رنگ‌ها را به دو روش متفاوت تفسیر کردند.

آزمایشگاه هوش مصنوعی, تراشه غیرآمریکایی,خطاهای بصری

او می‌گوید این واقعیت که مدل هوش مصنوعی می‌تواند تصاویر را به روشی مشابه ما تفسیر کند، به درک ما از اینکه AI چگونه مجموعه مهارت‌های مشابهی را توسعه می‌دهد، کمک می‌کند. به بیان ساده‌تر اگر الگوریتمی که از داده‌های آموزشی زیادی تغذیه می‌کند، شروع به تفسیر ذهنی رنگ‌ها کند، به این معنی است که ادراک انسان و ماشین ممکن است حداقل در این مورد نزدیک به هم باشند.

بااین‌حال همان‌طور که مطالعات اخیر نشان می‌دهد، این مدل‌ها در موارد دیگر به‌هیچ‌وجه مانند ما رفتار نمی‌کنند. این واقعیتی است که تفاوت‌های کلیدی را بین نحوه «دیدن» مردم و ماشین‌ها به جهان نشان می‌دهد. برخی از محققان دریافته‌اند که مدل‌های ترانسفورماتور توسعه‌یافته زبان بینایی جدید به توهمات متناقض پاسخ می‌دهند. گاهی اوقات آن‌ها مانند انسان پاسخ می‌دهند. در موارد دیگر، آن‌ها پاسخ‌های کاملاً منطقی و عینی دقیق ارائه می‌دهند. اما گاهی اوقات پاسخ‌های آن‌ها به‌گونه‌ای است که گویا نتیجه توهم است.

انگیزه پشت چنین مطالعاتی آن نیست که بخواهیم ثابت کنیم انسان‌ها و هوش مصنوعی شبیه یکدیگرند. تفاوت اساسی بین آن‌ها این است که مغز ما پر از اتصالات غیرخطی و حلقه‌های بازخوردی است که سیگنال‌ها را به عقب و جلو می‌فرستند.

یک عصب‌شناس محاسباتی از دانشگاه یورک در اونتاریو که در آزمایش‌های خطای دید مشارکتی نداشت، می‌گوید: «همان‌طور که چشم‌ها و سایر دستگاه‌های حسی ما اطلاعاتی را از دنیای بیرون جمع‌آوری می‌کنند، این شبکه‌های تکراری به مغز ما کمک می‌کنند تا هر شکافی را پر کند. اگرچه برخی از شبکه‌های عصبی مکرر برای تقلید از این جنبه از مغز انسان ایجاد شده‌اند، بسیاری از مدل‌های یادگیری ماشینی طوری طراحی نشده‌اند که دارای اتصالات تکراری و دو جهته باشند».

محبوب‌ترین مدل‌های هوش مصنوعی ترانسفورماتور مولد بر توابع ریاضی مبتنی بر Feed Forward هستند. این بدان معناست که اطلاعات از طریق آن‌ها فقط در یک‌جهت حرکت می‌کند: از ورودی به خروجی. مطالعه نحوه واکنش چنین سیستمی از هوش مصنوعی به خطای دید، می‌تواند به دانشمندان کمک کند تا توانایی‌ها و سوگیری‌های این مدل‌های یادگیری ماشینی یک‌طرفه را بهتر درک کنند.

به گفته تیمی از دانشمندان کامپیوتر که چهار مدل زبان بینایی منبع باز را ارزیابی کردند، یکی از عوامل تأثیرگذار، اندازه مدل است. محققان دریافتند که مدل‌های بزرگ‌تر، یعنی مدل‌هایی که با وزن‌ها و متغیرهای بیشتری توسعه‌یافته‌اند، در مقایسه با مدل‌های کوچک‌تر، با پاسخ‌های انسان به خطاهای دید هماهنگ‌ترند.

به‌طورکلی، مدل‌های هوش مصنوعی که دانشمندان آزمایش کردند، به‌ویژه در تثبیت عناصر توهم‌آمیز در یک تصویر خوب عمل نکردند به‌طور میانگین کمتر از ۳۶ درصد دقت داشتند. آن‌ها به‌طور متوسط تنها حدود ۱۶ درصد موارد با پاسخ‌های انسان هم‌سو بودند. بااین‌حال، این مطالعه همچنین نشان داد که مدل‌ها در واکنش به انواع خاصی از خطای دید نسبت به سایر مدل‌ها با دقت بیشتری از انسان تقلید می‌کنند.

به‌عنوان‌مثال پاسخ این مدل‌ها در خصوص خطای دید، یکی از شبیه‌ترین خروجی‌های انسانی را به همراه داشت. محققان با روشی خاص از مدل‌ها خواستند تا در مورد تصاویر قضاوت کنند. آن‌ها در نظر گرفته بودند که اگر این هوش مصنوعی در پاسخ‌های خود ۷۵ درصد به ادراک خطای دید انسانی نزدیک باشند، این مدل را «انسان‌مانند» خطاب کنند.

آزمایشگاه هوش مصنوعی, تراشه غیرآمریکایی,خطاهای بصری

در پژوهشی دیگر که قبلاً منتشرشده بود، محققان توانایی‌های GPT-۴V و Gemini-Pro گوگل را برای ارزیابی ۱۲ دسته مختلف از خطای دید آزمایش کردند. این‌ها توهمات شامل اشیاء غیرممکن است که به‌نوعی شکل‌های دوبعدی اجسامی هستند که نمی‌توانند در فضای سه‌بعدی وجود داشته باشند و توهمات تصویری پنهان که در آن سایه‌های اجسام در یک تصویر گنجانده می‌شوند بدون اینکه بلافاصله آشکار شوند.

در ۹ مورد از ۱۲ دسته، مدل‌ها در تشخیص آنچه در  خطای دید اتفاق می‌افتد، در مقایسه با افراد بدتر بودند و میانگین دقت ۵۹ درصد در مقابل ۹۴ درصد پاسخ‌دهندگان انسانی داشتند. اما در سه دسته خطای دید رنگ، زاویه و اندازه GPT-۴V به‌طور قابل‌مقایسه یا حتی کمی بهتر از بازبینان انسانی عمل کرد.

یکی از نویسندگان این پژوهش از آزمایشگاه هوش مصنوعی خدمات وب آمازون، بر این باور است که این تفاوت به آن بستگی دارد که تجزیه‌وتحلیل خطاهای دید و توهمات به استدلال کمی یا کیفی نیاز دارد. انسان‌ها در هر دو کار مهارت دارند، اما ممکن است مدل‌های یادگیری ماشینی آمادگی کمتری برای قضاوت بر اساس چیزهایی داشته باشند که به‌راحتی قابل‌اندازه‌گیری نیستند. هر سه دسته توهم که در آن‌ها دستگاه‌های هوش مصنوعی در تفسیر بهترین بودند، علاوه بر ویژگی‌های ذهنی شامل ویژگی‌های قابل‌اندازه‌گیری کمی نیز هستند.

دانشمندان می‌گویند برای استقرار مسئولانه دستگاه‌های هوش مصنوعی، باید آسیب‌پذیری‌ها و نقاط کور آن‌ها و همچنین مکان‌هایی را که تمایلات انسانی تکرار می‌شوند و نمی‌شوند، درک کنیم. همسو شدن یک مدل با انسان‌ها می‌تواند همان‌قدر که خوب باشد، بد هم باشد. همچنین در برخی موارد ابزارهایی مانند ابزارهای تشخیص پزشکی هوش مصنوعی که تصاویر رادیولوژی را تجزیه‌وتحلیل می‌کنند به این دلیل که در حالت آرمانی مستعد خطای بینایی نیستند، باعث خوش‌بینی نسبت به این نوع فناوری می‌شوند.

بنابراین، آزمایش خطای دید بر روی GPT-4V OpenAI و سایر مدل‌های بزرگ یادگیری ماشینی که اغلب به‌عنوان جعبه‌های سیاه توصیف می‌شوند می‌توانند آنچه را واقعا در سر هوش مصنوعی می‌گذرد  آشکار کند.

  • 18
  • 4
۵۰%
همه چیز درباره
نظر شما چیست؟
انتشار یافته: ۰
در انتظار بررسی:۰
غیر قابل انتشار: ۰
جدیدترین
قدیمی ترین
مشاهده کامنت های بیشتر
زندگینامه امام زاده صالح زندگینامه امامزاده صالح تهران و محل دفن ایشان

نام پدر: اما موسی کاظم (ع)

محل دفن: تهران، شهرستان شمیرانات، شهر تجریش

تاریخ تاسیس بارگاه: قرن پنجم هجری قمری

روز بزرگداشت: ۵ ذیقعده

زندگینامه امامزاده صالح

باورها و اعتقادات مذهبی، نقشی پررنگ در شکل گیری فرهنگ و هویت ایرانیان داشته است. احترام به سادات و نوادگان پیامبر اکرم (ص) از جمله این باورهاست. از این رو، در طول تاریخ ایران، امامزادگان همواره به عنوان واسطه های فیض الهی و امامان معصوم (ع) مورد توجه مردم قرار داشته اند. آرامگاه این بزرگواران، به اماکن زیارتی تبدیل شده و مردم برای طلب حاجت، شفا و دفع بلا به آنها توسل می جویند.

ادامه
آپولو سایوز ماموریت آپولو سایوز؛ دست دادن در فضا

ایده همکاری فضایی میان آمریکا و شوروی، در بحبوحه رقابت های فضایی دهه ۱۹۶۰ مطرح شد. در آن دوران، هر دو ابرقدرت در تلاش بودند تا به دستاوردهای فضایی بیشتری دست یابند. آمریکا با برنامه فضایی آپولو، به دنبال فرود انسان بر کره ماه بود و شوروی نیز برنامه فضایی سایوز را برای ارسال فضانورد به مدار زمین دنبال می کرد. با وجود رقابت های موجود، هر دو کشور به این نتیجه رسیدند که برقراری همکاری در برخی از زمینه های فضایی می تواند برایشان مفید باشد. ایمنی فضانوردان، یکی از دغدغه های اصلی به شمار می رفت. در صورت بروز مشکل برای فضاپیمای یکی از کشورها در فضا، امکان نجات فضانوردان توسط کشور دیگر وجود نداشت.

مذاکرات برای انجام ماموریت مشترک آپولو سایوز، از سال ۱۹۷۰ آغاز شد. این مذاکرات با پیچیدگی های سیاسی و فنی همراه بود. مهندسان هر دو کشور می بایست بر روی سیستم های اتصال فضاپیماها و فرآیندهای اضطراری به توافق می رسیدند. موفقیت ماموریت آپولو سایوز، نیازمند هماهنگی و همکاری نزدیک میان تیم های مهندسی و فضانوردان آمریکا و شوروی بود. فضانوردان هر دو کشور می بایست زبان یکدیگر را فرا می گرفتند و با سیستم های فضاپیمای طرف مقابل آشنا می شدند.

فضاپیماهای آپولو و سایوز

ماموریت آپولو سایوز، از دو فضاپیمای کاملا متفاوت تشکیل شده بود:

ادامه
نیلوفر اردلان بیوگرافی نیلوفر اردلان؛ سرمربی فوتسال و فوتبال بانوان ایران

چکیده بیوگرافی نیلوفر اردلان

نام کامل: نیلوفر اردلان

تاریخ تولد: ۸ خرداد ۱۳۶۴

محل تولد: تهران 

حرفه: بازیکن سابق فوتبال و فوتسال، سرمربی تیم ملی فوتبال و فوتسال بانوان

سال های فعالیت: ۱۳۸۵ تاکنون

قد: ۱ متر و ۷۲ سانتی متر

ادامه
حمیدرضا آذرنگ بیوگرافی حمیدرضا آذرنگ؛ بازیگر سینما و تلویزیون ایران

چکیده بیوگرافی حمیدرضا آذرنگ

نام کامل: حمیدرضا آذرنگ

تاریخ تولد: تهران

محل تولد: ۲ خرداد ۱۳۵۱ 

حرفه: بازیگر، نویسنده، کارگردان و صداپیشه

تحصیلات: روان‌شناسی بالینی از دانشگاه آزاد رودهن 

ادامه
محمدعلی جمال زاده بیوگرافی محمدعلی جمال زاده؛ پدر داستان های کوتاه فارسی

تاریخ تولد: ۲۳ دی ۱۲۷۰

محل تولد: اصفهان، ایران

حرفه: نویسنده و مترجم

سال های فعالیت: ۱۳۰۰ تا ۱۳۴۴

درگذشت: ۲۴ دی ۱۳۷۶

آرامگاه: قبرستان پتی ساکونه ژنو

ادامه
فردریش نیچه نگاهی ژرف به زندگینامه و اندیشه‌های فردریش نیچه

تاریخ تولد: ۱۵ اکتبر ۱۸۴۴

محل تولد: روکن، آلمان

حرفه: فیلسوف و منتقد فرهنگی

درگذشت: ۱۹۰۰ میلادی

مکتب: فردگرایی، اگزیستانسیالیسم، پسانوگرایی، پساساختارگرایی، فلسفه قاره‌ای

ادامه
هدیه بازوند بیوگرافی هدیه بازوند؛ بازیگر کرد سینما و تلویزیون ایران

تاریخ تولد: ۲۷ مرداد ۱۳۶۶

محل تولد: بندرعباس، ایران

حرفه: بازیگر سینما، تلویزیون و تئاتر

آغاز فعالیت: ۱۳۹۶ تاکنون

تحصیلات: فارغ التحصیل لیسانس رشته مهندسی معماری

ادامه
سانجیو باجاج بیوگرافی سانجیو باجاج میلیارد و کارآفرین موفق هندی

تاریخ تولد: ۲ نوامبر ۱۹۶۹

محل تولد: هندی

ملیت: هندی

حرفه: تاجر، سرمایه گذار و میلیارد 

تحصیلات: دکتری مدیریت از دانشگاه هاروارد

ادامه
محمد مهدی احمدی بیوگرافی محمدمهدی احمدی، داماد محسن رضایی

تاریخ تولد: دهه ۱۳۶۰

محل تولد: تهران

حرفه: مدیرعامل بانک شهر

مدرک تحصیلی: دکترای اقتصاد واحد علوم تحقیقات دانشگاه آزاد اسلامی تهران، کارشناسی ارشد علوم اقتصادی دانشگاه تهران، کارشناسی اقتصاد بازرگانی دانشگاه شهید بهشتی

نسبت خانوادگی: داماد محسن رضایی، برادر عروس قالیباف، برادر داماد رحمانی فضلی

ادامه
ویژه سرپوش