دوشنبه ۱۳ مهر ۱۴۰۵

دانش

مدیرعامل OpenAI در مورد اعطای اختیار مذهبی یا قضاوت انسانی به مدل‌های هوش مصنوعی هشدار داد

مدیرعامل OpenAI در مورد اعطای اختیار مذهبی یا قضاوت انسانی به مدل‌های هوش مصنوعی هشدار داد
آریا جوان - مدیرعامل شرکت OpenAI هشدار داد: دادن «نیروی مذهبی» به هوش مصنوعی «مسئله ایمنی واقعی» را ایجاد می‌کند.
  بزرگنمايي:

آریا جوان - مدیرعامل شرکت OpenAI هشدار داد: دادن «نیروی مذهبی» به هوش مصنوعی «مسئله ایمنی واقعی» را ایجاد می‌کند.

آناتولی نوشت: سم آلتمن، مدیرعامل OpenAI در مورد اعطای اختیار مذهبی به مدل‌های هوش مصنوعی یا واگذاری قضاوت انسانی به آنها هشدار داد و این عمل را یک «مسئله ایمنی واقعی» خواند.
آلتمن در پلتفرم X نوشت: «من از افرادی که سعی می‌کنند نیروی مذهبی یا واگذاری قضاوت انسانی را به مدل‌های هوش مصنوعی نسبت دهند، بسیار ناراحت هستم و فکر می‌کنم این یک مسئله ایمنی واقعی است.»
اظهارات او چند روز پس از گزارش‌هایی مبنی بر برگزاری جلسات خصوصی شرکت رقیب هوش مصنوعی، آنتروپیک، با متفکران مذهبی و فلسفی در مورد آگاهی و اخلاق هوش مصنوعی منتشر شد. در همین رابطه روزنامه نیویورک تایمز گزارش داد: این بحث‌ها شامل این بود که آیا سیستم‌های هوش مصنوعی مانند «کلود» می‌توانند به طور بالقوه آگاه باشند و چگونه تفکر مذهبی می‌تواند به شکل‌گیری رفتار آنها کمک کند. آنتروپیک همچنین در حال مطالعه چیزی است که آن را «رفاه مدل» می‌نامد، از جمله اینکه آیا سیستم‌های پیشرفته هوش مصنوعی می‌توانند تجربیاتی داشته باشند که مستلزم ملاحظات اخلاقی باشد.
همچنین مصطفی سلیمان از رویکرد «هوش مصنوعی انسان‌گرا» حمایت کرده است که در آن سیستم‌های هوش مصنوعی به جای اینکه به عنوان موجودیت‌هایی که منافع خود را دارند در نظر گرفته شوند، ابزارهایی باشند که برای خدمت به مردم طراحی شده‌اند.


نظرات شما