به گزارش فارس، شرکت «اوپن‌اِی‌آی» در اقدامی تازه، استفاده از «چت‌جی‌پی‌تی» برای ارائه هرگونه مشاوره شخصی پزشکی، حقوقی و مالی را ممنوع کرد. این تصمیم که از آبان ۱۴۰۴ اجرایی شده، هدفش کاهش خطرات حقوقی و افزایش ایمنی کاربران است. از این پس، چت‌جی‌پی‌تی تنها می‌تواند مفاهیم کلی و آموزشی را توضیح دهد و کاربران را به متخصصان واقعی ارجاع دهد، نه اینکه نقش مشاور حرفه‌ای را ایفا کند. یک منبع آگاه به رسانه «نکستا» گفته که دلیل اصلی این تغییر، فشارهای فزاینده نهادهای قانون‌گذار و ترس از مسئولیت‌های قضایی بوده است.
در سال‌های اخیر میلیون‌ها کاربر از چت‌جی‌پی‌تی برای کارهایی مانند تشخیص بیماری، تنظیم اسناد حقوقی یا برنامه‌ریزی سرمایه‌گذاری استفاده می‌کردند. اما این وابستگی خطرناک تلقی شده است. در یکی از نمونه‌های بحث‌برانگیز، کاربری پس از پرسیدن درباره سردرد مزمن، پاسخ نگران‌کننده‌ای دریافت کرد که به‌اشتباه احتمال تومور مغزی داده بود. در موردی دیگر، چت‌جی‌پی‌تی پیش‌نویس وصیت‌نامه‌ای تنظیم کرد که به دلیل نبود بندهای ایالتی، در دادگاه معتبر نبود. چنین خطاهایی نشان دادند که حتی پیشرفته‌ترین مدل‌های زبانی نمی‌توانند جای تخصص واقعی پزشکان یا وکلای مجاز را بگیرند.
محدودیت تازه همچنین به جنبه‌های احساسی و حریم خصوصی کاربران مربوط می‌شود. بسیاری از افراد از چت‌جی‌پی‌تی برای گفت‌وگوهای روانی و احساسی استفاده می‌کردند، اما این سامانه توانایی تشخیص بحران روحی یا ارائه همدلی انسانی را ندارد. در زمینه‌های مالی و حقوقی نیز مرز بین آموزش و مشاوره به‌صورت دقیق‌تر تعیین شده است؛ چت‌جی‌پی‌تی می‌تواند مفهوم مالیات یا بندهای قراردادی را توضیح دهد، اما دیگر محاسبه شخصی یا توصیه عملی ارائه نمی‌کند. کارشناسان هشدار داده‌اند که اشتراک اطلاعات خصوصی با سامانه‌های هوش مصنوعی ممکن است خطر افشای داده‌ها یا سوء‌استفاده از هویت کاربران را افزایش دهد.
به گفته تحلیلگران، این تصمیم چند هدف را دنبال می‌کند: نخست، حفاظت از کاربران در برابر تصمیم‌های اشتباه یا خطرناک بر پایه پاسخ‌های نادرست؛ دوم، کاهش ریسک حقوقی برای اوپن‌اِی‌آی در شرایطی که قوانین جهانی در حال سخت‌گیرانه‌تر شدن درباره هوش مصنوعی هستند؛ و سوم، حمایت غیرمستقیم از متخصصان واقعی در حوزه‌های پزشکی، حقوق و مالی، با تأکید بر اینکه قضاوت و مسئولیت واقعی همچنان به انسان تعلق دارد.
- 19
- 3
