به گزارش سایت خبری پُرسون، شرکت اوپنایآی(OpenAI) جدیدترین شرکتی است که به موج محدود کردن دسترسی بر اساس سن کاربران پیوسته است.
این شرکت توسعه دهنده هوش مصنوعی در حال آغاز عرضه جهانی یک ابزار تشخیص سن برای تعیین این است که آیا کاربر، خردسال است یا خیر.
در اطلاعیه این شرکت آمده است: این مدل، ترکیبی از سیگنالهای رفتاری و سطح حساب کاربری، از جمله مدت زمان وجود یک حساب، زمانهای معمول فعال بودن فرد در طول روز، الگوهای استفاده در طول زمان و سن اعلام شده کاربر را بررسی میکند.
اگر فردی به اشتباه توسط ChatGPT به عنوان «زیر سن قانونی» تشخیص داده شود، باید یک عکس سلفی ارسال کند تا این اشتباه از طریق پلتفرم تأیید سن پرسونا(Persona) اصلاح شود.
اغلب شرکتهای هوش مصنوعی مایل بودهاند ابتدا ویژگیهای جدید را ارائه دهند و سپس پس از ایجاد آسیب، سعی کنند مجموعهای از محافظتها و حفاظهای ایمنی را روی آنها قرار دهند. به عنوان مثال، شرکت اوپنایآی در یک پرونده قتل غیرعمد نوجوانی که ظاهراً از ChatGPT برای برنامهریزی خودکشی خود استفاده کرده بود، متهم شد و تازه در ماههای پس از این اتفاق بود که شروع به بررسی محدودیتهای خودکار محتوا برای کاربران زیر سن قانونی و راهاندازی یک شورای مشاوره سلامت روان کرد.
در این مورد، اوپنایآی در تلاش است تا برای راهاندازی یک «حالت بزرگسال» آماده شود که به کاربران امکان میدهد محتوای مخصوص بزرگسالان را ایجاد و مصرف کنند. البته با توجه به اینکه تغییر مشابهی در پلتفرم دیگری با سابقه متزلزل در زمینه محافظت از خردسالان موسوم به رابلوکس(Roblox) چندان موفق نبوده است، به نظر میرسد کاربرانی که زیر سن قانونی هستند، اگر بخواهند از ChatGPT به عنوان یک بزرگسال استفاده کنند، راههایی برای دور زدن ابزارهای موجود پیدا خواهند کرد.
منبع: ایسنا
