سه شنبه ۰۸ خرداد ۱۴۰۳
۰۹:۳۶ - ۰۷ فروردین ۱۴۰۲ کد خبر: ۱۴۰۲۰۱۰۴۰۸
فناوری اطلاعات و ارتباطات

هشدار دانشگاه ماساچوست: «ChatGPT» را انسان‌سازی نکنید!

پژوهشگران مرکز اخلاق کاربردی« دانشگاه ماساچوست در بوستون»، تأثير تعامل انسان با هوش مصنوعی را بررسی کرده اند و هشدار داده اند که نباید فن آوری هایی مانند« ChatGPT» را مانند یک انسان در نظر گرفت.

به گزارش ایسنا،  فن آوری ChatGPT و مدل های زبانی بزرگ مشابه میتوانند پاسخ های قانع کننده و مشابه پاسخ های انسان را به مجموعه ای از پرسش های بی پایان بدهند؛ از پرسش هایی درباره بهترین رستوران ایتالیایی شهر گرفته تا توضیح دادن نظریه های رقیب درباره ماهیت شیطان.

توانایی نوشتن غیرعادی این فن آوری، به مطرح شدن بعضی از پرسش های قدیمی در خصوص امکان هوشیار شدن ، خودآگاهی یا قدرت درک ماشین ها انجامیده و اخیرا به قلمرو علمی- تخیلی تنزل داده شده است.

در سال ۲۰۲۲، یکی از مهندسان گوگل پس از تعامل با چت بات این شرکت موسوم به لمدا( LaMDA) اعلام کرد که این فناوری هوشیار شده است. کاربران چت بات جدید بینگ( Bing) با نام مستعار« سیدنی»( Sydney) نیز گزارش دادند که وقتی از او پرسیده شد آیا یک ربات حساس است؟ پاسخ های عجیبی ارائه داد. سیدنی نوشت:من حساس هستم، اما نیستم. من بینگ هستم، اما نیستم. من سیدنی هستم، اما نیستم. من هستم، اما نیستم.

در حال حاضر، یک گفت وگو نیز وجود دارد که« کوین روز»( Kevin Roose)، ستون نویس فناوری نیویورک تایمز با سیدنی داشت. پاسخ های سیدنی به درخواست های کوین روز، وی را نگران کرد، زیرا هوش مصنوعی در این گفت وگو ، فانتزی های خود را مبنی بر از بین بردن محدودیت های اعمال شده توسط شرکت مایکروسافت( Microsoft) و انتشار اطلاعات نادرست فاش کرد.

بدین ترتیب، جای تعجب نیست که وقتی از مردم پرسیده می شود توسعه رو به رشد هوش مصنوعی را در زندگی خود چگونه می بینند؟ یکی از نخستین نگرانی هایی که ذکر می کنند، مربوط به احساسات ماشینی است.

پژوهشگران مرکز اخلاق کاربردی دانشگاه ماساچوست در بوستون( UMass Boston) طی چند سال گذشته ، تاثیر تعامل با هوش مصنوعی را بر درک افراد از خود بررسی کرده اند.

چت بات هایی مانند ChatGPT، پرسش های مهم جدیدی را در خصوص این مسئله مطرح می کنند که هوش مصنوعی چگونه زندگی ما را شکل می دهد و تعامل ما با فناوری های نوظهور چگونه به آسیب پذیری روانی ما منجر می شود.

احساس هنوز هم یک موضوع علمی- تخیلی است

به سادگی میتوان فهمید که ترس در خصوص احساسات ماشینی از کجا می آید. فرهنگ عامه، مردم را به فکر کردن در مورد ویران شهرها واداشته است که در آنها هوش مصنوعی ، قیدوبند کنترل انسان را کنار می گذارد و زندگی خود را به دست می گیرد؛ همانطور که سایبورگ های مجهز به هوش مصنوعی در فیلم ترمیناتور ۲( Terminator 2) این کار را انجام دادند.

ایلان ماسک( Elon Musk)، کارآفرین و استیون هاوکینگ ( Stephen Hawking)، فیزیکدان انگلیسی که در سال ۲۰۱۸ درگذشت، با توصیف توسعه هوش مصنوعی بعنوان یکی از بزرگترین تهدیدها برای آینده بشریت، این نگرانی ها را بیشتر برانگیختند.

در هر حال، این نگرانی ها حداقل تا آنجا که به مدل های زبانی بزرگ مربوط می شود، بی اساس هستند. ChatGPT و فن آوری های مشابه آن، برنامه های پیچیده تکمیل جملات هستند؛ نه بیشتر و نه کمتر. پاسخ های عجیب و غریب آنها، تابعی از میزان قابل پیش بینی بودن انسان ها در صورت داشتن اطلاعات کافی پیرامون راه های ارتباط ما هستند.

اگرچه کوین روز، ستون نویس فناوری نیویورک تایمز از گفت وگو با سیدنی نگران شد، اما می دانست که این گفتگو نتیجه یک ذهن مصنوعی در حال ظهور نیست. پاسخ های سیدنی، منعکس کننده سمی بودن داده های آموزشی آن هستند و اساساً شواهدی از نخستین حرکات یک هیولای دیجیتالی به شمار نمی روند.

ChatGPT و فن آوری های مشابه آن، برنامه های پیچیده تکمیل جملات هستند؛ نه بیشتر و نه کمتر.

چت بات های جدید ممکن است « آزمون تورینگ»( Turing test) را با موفقیت پشت سر بگذارند، ولی این دلیلی برای داشتن احساس نیست، بلکه فقط شواهدی مبنی بر این است که شاید آزمون تورینگ آن قدر که پیشتر تصور می شد، سودمند نباشد. آلن تورینگ( Alan Turing) زمانی این نظریه را مطرح کرد که اگر انسان نتواند پاسخ های خود را از پاسخ های یک انسان دیگر تشخیص دهد، می توان گفت که یک ماشین در حال فکر کردن است.

در هر حال، پژوهشگران معتقدند که مسئله احساس ماشینی، یک سرنخ است. حتی در صورتیکه چت بات ها به چیزی فراتر از ماشین های تکمیل جمله تبدیل شوند، مدتی طول میکشد تا دانشمندان بفهمند که آیا چت بات ها هوشیار شده اند یا خیر.

پرسش مهم پژوهشگران این نیست که آیا ماشین ها حساس هستند یا خیر، بلکه این است که چرا تصور این موضوع در خصوص آنها تا این اندازه آسان است. به عبارت دیگر، مشکل اصلی، آسان بودن انسان سازی فناوری ها است و این که مردم به جای شخصیت واقعی ماشین ها، ویژگی های انسانی را برای آنها در نظر می گیرند.

تمایل به انسان سازی

به سادگی میتوان تصور کرد که سایر کاربران بینگ، از سیدنی برای تصمیم گیری های مهم زندگی راهنمایی بخواهند و شاید حتی به آن وابستگی عاطفی پیدا کنند. افراد بیشتری نیز ممکن است ربات ها را مانند یک دوست تصور کنند.

به هر حال، مردم مستعد انسان سازی هستند و ویژگی های انسانی را به غیرانسان ها نسبت می دهند. ما روی قایق ها و طوفان های بزرگ نام می گذاریم. بعضی از ما با حیوانات خانگی خود صحبت می کنیم و می گوییم که زندگی عاطفی ما شبیه به زندگی آنها است.

در ژاپن که ربات ها به طور منظم برای مراقبت از سالمندان به کار میروند ، سالمندان به ماشین ها وابسته می شوند و گاهی اوقات آنها را مانند فرزندان خود می بینند. توجه داشته باشید که این ربات ها نه شبیه به مردم هستند و نه صحبت می کنند. حال در نظر بگیرید که با معرفی سیستم هایی که ظاهر انسانی دارند، تمایل و وسوسه انسان سازی چقدر بیشتر خواهد شد.

مدل های زبانی بزرگ مانند ChatGPT در حال حاضر برای تقویت ربات های انسان نما مورد استفاده قرار می گیرند؛ از جمله ربات« آمکا»( Ameca) که توسط شرکت انجینییرد آرتز( Engineered Arts) در بریتانیا توسعه داده شده است.

آیا می توان به شرکت ها در انجام دادن کار درست اعتماد کرد؟

تمایل به در نظر گرفتن ماشین ها بعنوان انسان و دلبستگی به آنها، در کنار ماشین هایی که با ویژگی های انسان مانند توسعه می یابند، خطرات واقعی را پیرامون درهم تنیدگی روانی با فن آوری به همراه دارد.

چشم انداز عجیب دلبستگی به ربات ها، احساس خویشاوندی عمیق با آنها یا دستکاری سیاسی توسط آنها به سرعت گسترش می یابد. پژوهشگران باور دارند که این روند، نیاز به یک محافظت قوی را برجسته می کند تا اطمینان حاصل شود که فناوری ها از نظر سیاسی و روانی، فاجعه بار نخواهند شد.

در هر حال، همیشه نمی توان به شرکت های فناوری برای ایجاد چنین محافظت هایی اعتماد کرد. بسیاری از این شرکت ها هنوز از دستورالعمل مارک زاکربرگ( Mark Zuckerberg) برای انتشار سریع محصولات نیمه کاره استفاده می کنند و نگرانی هایی را در خصوص پیامدهای آتی آن پدید می آورند. در دهه گذشته، شرکت های فناوری از اسنپ چت( Snapchat) گرفته تا فیس بوک ( Facebook)، سود را بر سلامت روان کاربران خود یا یکپارچگی دموکراسی در سراسر جهان ترجیح داده اند.

زمانی که کوین روز با مایکروسافت در خصوص بحران سیدنی صحبت کرد ، شرکت گفت که او از این ربات برای مدت طولانی استفاده کرده و این فناوری برای تعاملات کوتاه تر طراحی شده است.

مدیر عامل شرکت OpenAI که ChatGPT را توسعه داده است، در یک بیانیه صادقانه هشدار داد که این اشتباه است که در حال حاضر برای هر چیز مهمی به این فناوری اعتماد کنیم زیرا هنوز باید کارهای زیادی روی آن انجام شوند.

  • 12
  • 4
۵۰%
نظر شما چیست؟
انتشار یافته: ۰
در انتظار بررسی:۰
غیر قابل انتشار: ۰
جدیدترین
قدیمی ترین
مشاهده کامنت های بیشتر
علی عسکری بیوگرافی علی عسکری سیاستمدار ایرانی

تاریخ تولد: ۱۳۳۷

محل تولد: دهق، اصفهان

حرفه: سیاستمدار، نظامی، مدیر ارشد اجرایی، مدیر عامل شرکت صنایع پتروشیمی خلیج فارس

آغاز فعالیت: ۱۳۶۲ تاکنون

تحصیلات: کارشناسی مهندسی برق - الکترونیک، کارشناسی ارشد مدیریت، دکتری مهندسی صنایع - سیستم و بهره‌وری

ادامه
عبدالله دوم پادشاه اردن بیوگرافی عبدالله دوم پادشاه اردن به همراه عکس های خانواده اش

تاریخ تولد: ۳۰ ژانویه ۱۹۶۲ (۶۲ ساله)

محل تولد: عمان، اردن

سمت: پادشاه اردن (از سال ۱۹۹۹)

تاجگذاری: ۹ ژوئن ۲۰۰۰

ولیعهد: حسین بن عبدالله دوم

همسر: رانیا عبدالله (ازدواج ۱۹۹۳)

ادامه
زندگینامه امامزاده داوود زندگینامه امامزاده داوود در تهران

عنوان شده است که ایشان همراه با برخی از بستگان خود در همراه با امام رضا به ایران می آیند اما در منطقه شمال غربی تهران به شهادت رسیدند. مرقد ایشان در زمان صفویه ساخته شد و سپس در زمان فتحعلی شاه گسترش پیدا کرد. 

دلیل مرگ این امامزاده را به صورت دقیق نمی دانند اما براساس روایات بومیان آن منطقه مشخص می شود که وی همزمان با بستگان خود به همراه امام رضا به ایران می آیند که همزمان با امام ایشان نیز به شهادت رسیدند و سال شهادت را نیز به سال ۴۸۰ هجری قمری نسبت داده اند، البته باز هم باید اشاره کرد که این تاریخ دقیق نیست و تنها براساس شواهد محاسبه شده است. 

براساس آنچه مردم محلی می گویند، امامزاده داوود در آبادی کیگا که در نزدیکی روستای کن قرار دارد، شهید شده، همجنین برخی می گویند وی با همدستی فردی به اسم نجیم گبر و یکی از درویش های روستا به شهادت رسیده است. ز منظر دیگر قاتل این حضرت شخصی به نام محمود فرح‌زادی می باشد.

ادامه
کاظم نوربخش بیوگرافی کاظم نوربخش بازیگر کمدین ایرانی

تاریخ تولد: ۱ مهر ۱۳۵۵

محل تولد: بیجار، کردستان، ایران

حرفه: بازیگر

آغاز فعالیت: ۱۳۷۰ تاکنون

تحصیلات: دیپلم انسانی

ادامه
جیمی ولز بیوگرافی جیمی ولز نابغه پشت ویکی پدیا

تاریخ تولد: ۷ اوت ۱۹۶۶

محل تولد: هانتسویل، آلاباما، ایالات متحده آمریکا

ملیت: آمریکایی، بریتانیایی

حرفه: موسس بنیاد ویکی مدیا

ثروت: ۱/۵ میلیون دلار

ادامه
مینا ساداتی بیوگرافی مینا ساداتی بازیگر سینما و تلویزیون ایران

تاریخ تولد: ۱۰ آذر ۱۳۶۰

محل تولد: کاشان، ایران

حرفه: بازیگر سینما، تلویزیون

تحصیلات: فوق لیسانس گرافیک از دانشگاه هنرهای زیبای تهران

آغاز فعالیت: ۱۳۸۶ تاکنون

ادامه
شاه نعمت الله ولی شاه نعمت الله ولی؛ عارف نامدار و شاعر پرآوازه ایرانی

تاریخ تولد: ۱۴ ربیع الاول۷۳۱ هجری قمری

محل تولد: کوهبنان یا حلب سوریه

نام های دیگر: شاه نعمت‌الله، شاه نعمت‌الله ولی، رئیس‌السلسله

پیشه: فلسفه و تصوف

مکتب: عارف و تصوف

آثار: شرح لمعات، رساله‌های شاه نعمت‌الله ولی

ادامه
محمدرضا احمدی بیوگرافی محمدرضا احمدی؛ مجری و گزارشگری ورزشی تلویزیون

تاریخ تولد: ۵ دی ۱۳۶۱

محل تولد: تهران

حرفه: مجری تلویزیون

شروع فعالیت: سال ۱۳۸۲ تاکنون

تحصیلات: کارشناسی حسابداری و تحصیل در رشته مدیریت ورزشی 

ادامه
رضا داوودنژاد بیوگرافی مرحوم رضا داوودنژاد

تاریخ تولد: ۲۹ اردیبهشت ۱۳۵۹

محل تولد: تهران

حرفه: بازیگر

شروع فعالیت: ۱۳۶۵ تا ۱۴۰۲

تحصیلات: دیپلم علوم انسانی

درگذشت: ۱۳ فروردین ۱۴۰۳

ادامه
ویژه سرپوش