سه شنبه ۱۴ آذر ۱۴۰۲
۲۰:۱۶ - ۱۹ شهریور ۱۴۰۲ کد خبر: ۱۴۰۲۰۶۱۳۹۸
فناوری اطلاعات و ارتباطات

راهی برای تشخیص خودآگاهی ChatGPT کشف شد

چت جی پی تی,ابداع راهی برای تشخیص خودآگاهی ChatGPT
راهی برای تشخیص خودآگاهی ChatGPT کشف شد.

زندگی ما قبلاً با هوش مصنوعی (AI) آمیخته شده بود اما وجود ChatGPT در اواخر سال گذشته در سراسر جهان آنلاین طنین انداز شده و از آن زمان، سیستم هوش مصنوعی مولد توسعه یافته توسط شرکت فناوری OpenAI سرعت خود را افزایش داده و کارشناسان هشدارهای خود را در مورد خطرات افزایش داده اند.

به گزارش سیناپرس، در همین حال، ربات های چت شروع به خارج شدن از نوشتن و صحبت کردن، فریب دادن ربات های دیگر و رفتار عجیب کرده و نگرانی های جدیدی را در مورد نزدیک شدن برخی ابزارهای هوش مصنوعی به هوش انسان برانگیخت.

برای این منظور، تست تورینگ مدت هاست که تبدیل به استاندارد تعیین اینکه آیا ماشین ها رفتار هوشمندانه ای از خود نشان می دهند که مانند انسان انجام می شود یا خیر، شده است. اما در این موج جدید از خلاقیت های هوش مصنوعی (Artificial Intelligence)، بنظر میرسد که برای سنجش قابلیت های آن ها به چیزی بیشتر نیاز داریم.

در اینجا، یک تیم بین المللی از دانشمندان کامپیوتر در حال آزمایش نقطه ای هستند که در آن مدل های زبان بزرگ (LLM) مانند ChatGPT ممکن است توانایی هایی ایجاد کنند که نشان می دهد می توانند از خود و شرایط خود آگاه شوند.

به ما گفته می شود که مدل های زبان بزرگ امروزی از جمله ChatGPT برای ایمنی آزمایش شده و از بازخورد انسانی برای بهبود رفتار تولیدی آن استفاده می کنند. با این حال، اخیراً محققان امنیتی برای دور زدن سیستم های ایمنی آنها، جیلبریک های جدید مدل های زبان بزرگ را سریع انجام دادند.

این خروجی های خطرناک در پاسخ به درخواست های عمدی مهندسی شده توسط یک محقق امنیتی بود که می خواست نقص های GPT- 4، آخرین و ظاهراً ایمن ترین نسخه ChatGPT را افشا کند. اگر مدل های زبان بزرگ نسبت به خود آگاهی پیدا کنند و بر اساس داده ها و توسط انسان ها آموزش ببینند، وضعیت میتواند بسیار بدتر شود.

به گفته لوکاس برگلوند (Lukas Berglund) دانشمند کامپیوتر و پژوهشگر این مطالعات: نگرانی این است که یک مدل که آگاهی موقعیتی نامیده می شود، تشخیص دهد که آیا در حال حاضر در حالت آزمایشی است یا برای عموم به کار گرفته شده است.

برگلوند و همکارانش می گویند: یک مدل زبان بزرگ میتواند از آگاهی موقعیتی برای دستیابی به امتیاز بالا در تست های ایمنی استفاده کند، در حالیکه اقدامات مضر پس از استقرار انجام می دهد.

به دلیل این خطرات، مهم است که از قبل پیش بینی کنیم که چه زمانی آگاهی موقعیتی پدیدار خواهد شد. قبل از اینکه بخواهیم آزمایش کنیم که چه زمانی مدل های زبان بزرگ ممکن است این بینش را به دست آورند، ابتدا یک جمع بندی سریع از نحوه عملکرد ابزارهای هوش مصنوعی مولد ارائه می دهیم.

برگلوند توضیح می دهد: هوش مصنوعی مولد و مدل های زبان بزرگ که بر اساس آن ها ساخته شده اند، به دلیل روشی که آنها ارتباط بین میلیاردها کلمه، جمله و پاراگراف را برای تولید جریان های روان متن در پاسخ به درخواست های سؤال تجزیه و تحلیل می کنند، نام گذاری شده اند. آنها با مصرف مقادیر زیادی متن، یاد می گیرند که چه کلمه ای احتمالاً بعد از چه می آید.

برگلوند و همکارانش توضیح می‌دهند: این توانایی یادآوری حقایق آموخته شده در آموزش و استفاده از آن ها در زمان آزمون است، علی رغم اینکه این حقایق مستقیماً با اعلان زمان آزمون مرتبط نیستند.

این تیم پژوهشی در پایان می نویسد:این یافته ها پایه ای برای مطالعات تجربی بیشتر، به سمت پیش بینی و کنترل بالقوه ظهور آگاهی موقعیتی در مدل های زبان بزرگ ارائه می دهند.

شرح کامل این مقاله در مجله arXiv موجود است.

  • 18
  • 4
۵۰%
همه چیز درباره
نظر شما چیست؟
انتشار یافته: ۰
در انتظار بررسی:۰
غیر قابل انتشار: ۰
جدیدترین
قدیمی ترین
مشاهده کامنت های بیشتر
زندگینامه لقمان حکیم زندگینامه لقمان حکیم و روایت های قرآنی وی

دوران زندگی: دوران حضرت داوود

محل تولد: حبشه

شهرت: لقمان حکیم

محل دفن: فلسطین یا ناحیه راشدیه در شمال بغداد

زندگینامه لقمان حکیمبیوگرافی لقمان حکیم

ادامه
سروش صحت بیوگرافی سروش صحت بازیگر و مجری پرطرفدار ایرانی

تاریخ تولد: ۸ آذر ۱۳۴۴

محل تولد: تهران 

حرفه: بازیگر، نویسنده، کارگردان و مجری

آغاز فعالیت: ۱۳۷۶ تاکنون

تحصیلات: لیسانس آلودگی شیمیایی دریا

ادامه
عبدالقادر گیلانی زندگینامه عبدالقادر گیلانی شاعر و عارف قرن ششم

تاریخ تولد: ۱ رمضان ۴۷۱ هجری قمری

محل تولد: صومعه سرا، گیلان

محل زندگی: گیلان، بغداد

حرفه: عارف، صوفی، محدث، و شاعر

درگذشت: ۸ ربیع الاول ۵۶۱ هجری قمری

محل دفن: محله باب ‌الشیخ بغداد

ادامه
استیو جابز زندگینامه ثروتمند بزرگ استیو جابز و بنیان گذار شرکت اپل (+ تصاویر دوران جوانی)

تاریخ تولد: ۲۴ فوریه ۱۹۵۵

محل تولد: سان فرانسیسکو، کالیفرنیا

ملیت: آمریکایی

حرفه: کارآفرین، مخترع، بنیان‌گذار و مدیر ارشد اجرایی شرکت رایانه‌ای اپل

سال های فعالیت: ۱۹۷۴ تا ۲۰۱۱

درگذشت: ۵ اکتبر ۲۰۱۱ در پالو آلتو، کالیفرنیا

ادامه
پاتریک دمپسی بیوگرافی پاتریک دمپسی جذابترین مرد ۲۰۲۳

تاریخ تولد: ۱۳ ژانویه ۱۹۶۶

محل تولد: لوئیستون، مین

ملیت: آمریکایی

حرفه: بازیگر، رانندهٔ اتومبیل‌رانی

شروع فعالیت: ۱۹۸۵ تاکنون

ادامه
 محمدرضا حیاتی بیوگرافی محمدرضا حیاتی مجری اسبق صدا و سیما / حواشی زندگی وی

تاریخ تولد: ۲۷ دی ۱۳۳۴

محل تولد: آبادان

محل زندگی: تهران

حرفه: گوینده و مجری صدا و سیما 

شروع فعالیت: ۱۳۵۵ تاکنون

تحصیلات: لیسانس رشته علوم سیاسی

ادامه
زندگینامه آرتمیس یکم زندگینامه آرتمیس یکم نخستین بانوی دریاسالار ایرانی

تولد: سده ۵ (پیش از میلاد)، هالیکارناس

سلطنت: ۴۶۰–۴۸۴ پیش از میلاد

جانشین: ۴۸۴ پیش از میلاد

تاجگذاری: پیسیندلیس

درگذشت: سده ۵ (پیش از میلاد)

ادامه
یسنا میرطهماسب بیوگرافی یسنا میرطهماسب بازیگر نوظهور سینما

تاریخ تولد: ۲۸ فروردین ۱۳۷۸

محل تولد: تهران

حرفه: بازیگر

آغاز فعالیت:  سال ۱۳۹۱ تاکنون

تحصیلات: دانشجوی رشته معماری

ادامه
زر امیرابراهیمی بیوگرافی زر امیرابراهیمی و حواشی زندگی او (+تصاویر)

تاریخ تولد: ۱۸ تیر ۱۳۶۰ 

محل تولد: تهران

حرفه: بازیگر

شروع فعالیت: سال ۱۳۷۸ تاکنون

تحصیلات: فارغ‌التحصیل رشته بازیگری تئاتر

ادامه
ویژه سرپوش