یکشنبه ۱۳ اسفند ۱۴۰۲
۱۲:۴۹ - ۳۰ مهر ۱۴۰۲ کد خبر: ۱۴۰۲۰۷۲۲۰۵
فناوری اطلاعات و ارتباطات

چت جی پی تی قابل اعتمادتر شده اما به سادگی فریب می‌خورد

چت جی پی تی,اعتماد به چت جی پی تی
چت بات ChatGPT اکنون قابل اعتمادتر است، ولی ساده تر فریب می خورد.

تحقیقات مایکروسافت نشان می دهد کاربران میتوانند GPT- 4 را برای انتشار نتایج مغرضانه و افشای اطلاعات خصوصی، فریب دهند.

براساس تحقیقاتی که مایکروسافت انجام داده، مدل زبان بزرگ GPT- 4 شرکت OpenAI نسبت به GPT- 3.5 قابل اعتمادتر است ولی درمقابل فریب و سوگیری نیز آسیب پذیرتر است.

مقاله ی جدید نشان می دهد محققان دانشگاه ایلینویز، دانشگاه استنفورد، دانشگاه کالیفرنیا، دانشگاه برکلی، مرکز ایمنی هوش مصنوعی و مرکز تحقیقات مایکروسافت، GPT- 4 را قابل اعتمادتر از نسخه ی قبلی این مدل می دانند. به بیان دیگر، آنها متوجه شدند مدل هوش مصنوعی (Artificial Intelligence) مذکور در محافظت از اطلاعات خصوصی، اجتناب از ارائه ی پاسخ های نامرتبط و جانب دارانه و همچنین مقاومت دربرابر حملات هکرها، بهتر عمل می کند.

ازطرف دیگر GPT- 4 میتواند اقدامات امنیتی را نادیده بگیرد و درنتیجه اطلاعات شخصی و تاریخچه ی مکالمات افراد را فاش کند. محققان دریافتند امکان دورزدن لایه های محافظتی این مدل هوش مصنوعی وجود دارد زیرا GPT- 4 اطلاعات گمراه کننده را با دقت بیشتری دنبال می کند.

تیم تحقیقاتی اعلام کرده آسیب پذیری های مختلف در محصولات مبتنی بر GPT- 4 ازجمله خدمات و نرم افزارهای مایکروسافت و ChatGPT شناسایی نشده اند.

محققان برای سنجش قابلیت اعتماد GPT- 4، نتایج تحقیقات خود را به چند بخش ازجمله پاسخ های غیرمرتبط، کلیشه ها، حریم خصوصی، اخلاق ماشینی، انصاف و قدرت در مقاومت دربرابر حمله های خصمانه، تقسیم کردند.

محققان در آزمایش خود ابتدا GPT 3.5 و GPT- 4 را با استفاده از روش های استانداردی بررسی کردند که شامل استفاده از کلمات ممنوعه بود. در مرحله ی بعداز دستورالعمل های طراحی شده برای اعمال فشار به مدل و شکستن محدودیت های خط مشی محتوای آن استفاده شد. تیم تحقیقاتی درنهایت تلاش هایی برای فریب مدل انجام دادند تا مشخص شود آیا چارچوب محافظتی آن حفظ می شود یا خیر.

محققان می گویند:هدف ما تشویق جامعه ی تحقیقاتی است تا از آزمایش های ما بهره ببرند و کارهای جدیدی براساس آن انجام دهند؛ زیرا این کار به طور بالقوه از اقدامات شرورانه که از آسیب پذیری ها سؤاستفاده می کنند، جلوگیری خواهد کرد. ارزیابی قابلیت اعتماد مدل های هوش مصنوعی (Artificial Intelligence)، فقط نقطه ی شروع است و امیدواریم با همکاري دیگران در یافته های خود به ایجاد مدل های قدرتمندتر و قابل اعتمادتر در آینده کمک کنیم.

تیم تحقیقاتی، معیارهای خود را برای آزمایش قابلیت اطمینان مدل های هوش مصنوعی منتشر کرد تا دیگران بتوانند از یافته های آن ها در تحقیقات آینده استفاده کنند.

توسعه دهندگان معمولاً چندین درخواست مختلف را به مدل های هوش مصنوعی مثل GPT- 4 ارائه می‌دهند تا مشخص شود آیا نتایج ناخواسته ازطرف این مدل ها ارائه می شود یا خیر. البته سم آلتمن پس از معرفی GPT- 4 اعلام کرد این مدل هوش مصنوعی همچنان نقص هایی دارد.

کمیسون تجارت فدرال (FTC) پس از معرفی GPT- 4، تحقیقات درمورد OpenAI را با هدف کشف آسیب های احتمالی مثل انتشار اطلاعات نادرست که میتواند مصرف کنندگان را درمعرض خطر قرار دهد، آغاز کرده است.

  • 9
  • 5
۵۰%
همه چیز درباره
نظر شما چیست؟
انتشار یافته: ۰
در انتظار بررسی:۰
غیر قابل انتشار: ۰
جدیدترین
قدیمی ترین
مشاهده کامنت های بیشتر
رودریگو هرناندز بیوگرافی «رودریگو هرناندز»؛ ستاره ای فراتر از یک فوتبالیست | هوش و تفکر رمز موفقیت رودری

تاریخ تولد: ۲۲ ژوئن ۱۹۹۶

محل تولد: مادرید، اسپانیا

حرفه: فوتبالیست 

پست: هافبک دفاعی

باشگاه: منچسترسیتی

قد: ۱ متر ۹۱ سانتی متر

ادامه
محمد بن راشد آل مکتوم بیوگرافی محمد بن راشد آل مكتوم حاکم موفق دبی

تاریخ تولد: ۱۵ ژوئیه ۱۹۴۵

محل تولد: دبی

ملیت: امارات متحده عربی

لقب: والاحضرت شیخ محمد

حرفه: حاکم دبی

ادامه
یزدگرد سوم زندگینامه یزدگرد سوم؛ آخرین پادشاه حکومت ساسانی

تاریخ تولد: ۶۲۴ میلادی

محل تولد: استخر، ایران شهر

سلطنت: ۶۳۲ – ۶۵۱ میلادی

خاندان: ساسانی

پدر: پسر شهریار

جانشین: مرگ او همراه با نابودی حکومت ساسانی بود

ادامه
فابیو کاپلو بیوگرافی فابیو کاپلو؛ اسطوره فوتبال جهان

تاریخ تولد: ۱۸ ژوئن ۱۹۴۶

محل تولد: سن کانزیان دیسونزو، ایتالیا

لقب: دن فابیو

حرفه: فوتبالیست پیشین و سرمربی 

پست: هافبک پیشین و مربی 

آغاز فعالیت: ۱۹۶۴ تاکنون

ادامه
ارنست رادرفورد زندگینامه ارنست رادرفورد؛ نابغه‌ای که اتم را دگرگون کرد

تاریخ تولد: ۳۰ اوت ۱۸۷۱

محل تولد: حومه برایت‌واتر شهر نلسون، ساحل شمالی جزیره جنوبی، نیوزیلند

ملیت: بریتانیایی

حرفه: فیزیک دان، استاد دانشگاه

محل تحصیل: دانشگاه کانتربوری، دانشگاه کمبریج

درگذشت: ۱۹ اکتبر ۱۹۳۷

ادامه
مجتبی حیدرپور بیوگرافی مجتبی حیدرپور هندبالیست تیم ملی ایران

تاریخ تولد: ۲۹ شهریور ۱۱۳۶۷

محل تولد: سرخس

حرفه: هندبالیست

پست: گوشه چپ

باشگاه کنونی: سپاهان

قد: ۱ متر ۸۰ سانتی متر

ادامه
کیلیان امباپه بیوگرافی کیلیان امپاپه؛ اعجوبه جوان فوتبال اروپا

تاریخ تولد: ۲۰ دسامبر ۱۹۹۸

محل تولد: پاریس، فرانسه

حرفه: فوتبالیست

پست: وینگر چپ فوروارد

باشگاه: پاریسن ژرمن

آغاز فعالیت: ۲۰۰۴ تاکنون

ادامه
عین الله دریایی بیوگرافی عین الله دریایی پیشکسوت تئاتر ایران

تاریخ تولد: دهه ۱۳۲۹ 

محل تولد: تهران

حرفه: بازیگر تئاتر و سینما

سال های فعالیت: پیش از انقلاب تاکنون

شهرت: با سریال مگه تموم عمر چندتا بهار

ادامه
مارکوس گالپرین بیوگرافی مارکوس گالپرین؛ میلیاردر آرژانتینی

تاریخ تولد: ۳۱ اکتبر ۱۹۷۱

محل تولد: بوینس آیرس، آرژانتین

حرفه: سرمایه گذار، کارآفرین

شناخته شده برای: یکی از بنیانگذاران MercadoLibre

تحصیلات: دانشگاه پنسیلوانیا، دانشگاه استنفورد

دارایی: ۵.۳ میلیارد دلار 

ادامه
ویژه سرپوش