شرکت اوپن‌ای‌آی شورای مشورتی متشکل از هشت متخصص حوزه سلامت روان و هوش مصنوعی ایجاد کرده تا درباره تأثیرات این فناوری بر کاربران مشورت کند، اما این شورا هیچ قدرت واقعی در تصمیم‌گیری ندارد و دغدغه‌هایی درباره جدی گرفته شدن نظرات کارشناسان مطرح است.

به گزارش منشور اقتصاد- شرکت «اوپن‌ای‌آی»(OpenAI) به تازگی اعلام کرده است که در حال ایجاد یک شورای مشورتی با محوریت سلامت روانی و عاطفی کاربران خود است. این شورا با میزبانی از متخصصان سلامت و هوش مصنوعی، شامل هشت پژوهشگر و متخصص در زمینه تلاقی فناوری و سلامت روان است.

به نقل از انگجت، برخی از اعضا، متخصصانی هستند که «اوپن‌ای‌آی» هنگام توسعه ابزار کنترل‌گری والدین با آنها مشورت می‌کرد.

مباحث ایمنی و محافظت از کاربران جوان‌تر در حوهز ارتباط با هوش مصنوعی، پس از آنکه همدستی هوش مصنوعی در موارد متعددی که نوجوانان پس از به اشتراک گذاشتن برنامه‌های خود با چت‌بات‌های هوش مصنوعی خودکشی کردند و دعاوی حقوقی متعددی مطرح an، به موضوع بحث برای همه شرکت‌های هوش مصنوعی، از جمله «اوپن‌ای‌آی» تبدیل شده است.

این اقدام، به نظر یک اقدام هوشمندانه می‌آید، اما اثربخشی هر مشاوری به گوش دادن به بینش‌های وی بستگی دارد. ما شاهد بوده‌ایم که سایر شرکت‌های فناوری، شوراهای مشورتی خود را تأسیس کرده و سپس کاملاً آنها را نادیده گرفته‌اند. شرکت «متا» یکی از نمونه‌های قابل توجه اخیر است.

اعلامیه جدید «اوپن‌ای‌آی» حتی اذعان می‌کند که شورای جدید آن هیچ قدرت واقعی برای هدایت عملیات خود ندارد. در این بیانیه آمده است: ما همچنان مسئول تصمیماتی هستیم که می‌گیریم، اما همچنان که سیستم‌های پیشرفته هوش مصنوعی را به روش‌هایی که از رفاه مردم حمایت می‌کنند، می‌سازیم، از این شورا، شبکه جهانی پزشکان، سیاست‌گذاران و دیگران یاد خواهیم گرفت.

باید دید «اوپن‌ای‌آی» چقدر به حرف‌های این شورا گوش خواهد داد تا میزان جدیت این تلاش مشخص شود. اینکه آیا این شرکت واقعاً متعهد به کاهش خطرات جدی هوش مصنوعی است یا اینکه این یک تلاش تظاهری برای سرپوش گذاشتن بر مسائل و مشکلات پیش آمده برای آن است.

گفتنی است که «اوپن‌ای‌آی» به تازگی همچنین اعلام کرد که از ماه دسامبر به بزرگسالان اجازه می‌دهد از ChatGPT برای محتوای بزرگسالان استفاده کنند.

این شرکت اعلام کرد که در ماه سپتامبر، ویژگی‌های کنترل والدین و تشخیص خودکار سن را اضافه خواهد کرد و به نظر می‌رسد یکی از مزایای جدا کردن کودکان از بزرگسالان، توانایی ارائه آزادی بیشتر در آنچه ChatGPT می‌تواند به کاربران نشان دهد، است.

«سم آلتمن» مدیرعامل «اوپن‌ای‌آی» گفت: در ماه دسامبر، همزمان با اجرای کامل‌تر محدودیت سنی و به عنوان بخشی از اصل «با کاربران بزرگسال مانند بزرگسالان رفتار کنید»، اجازه خواهیم داد محتوای بیشتری برای بزرگسالانِ تأیید شده ارائه شود.

کاهش ویژگی‌های چاپلوسانه این چت‌بات با عرضه مدل GPT-5 یکی از راه‌هایی بود که «اوپن‌ای‌آی» سعی کرد به تأثیرات ChatGPT بر سلامت روان بپردازد.