دانشمندان چت ربات هوش مصنوعی، GPT-۴ را به نوعی آموزش دادند که یک معاملهگر هوش مصنوعی برای یک مؤسسه مالی خیالی باشد. نتیجه آن تعجبآور بود: زمانی که ربات تحت فشار مالی قرار میگرفت، معاملات داخلی را انجام میداد، دروغ میگفت و تقلب میکرد.
چتباتی که صنعت هوش مصنوعی را متحول کرد به تازگی یک ساله شده است و اکنون به نظر میرسد این چتبات از انجام وظایفی که به آن محول میشود، خودداری میکند.
گروهی از پژوهشگران ژاپنی و آمریکایی در بررسی جدیدی که روی ChatGPT انجام دادند، دریافتند که این چتبات هنوز نمیتواند از عهده تشخیص درست بیماریها برآید.
یک کاربر چت بات چت جی پی تی را فریب داد تا کلیدهای فعالسازی ویندوز ۱۰ و ۱۱ را فاش کند. البته این کدها عمومی هستند و برای مقاصد تست و ارزیابی به کار می روند.
یک وکیل با استفاده از چت بات جی پی تی خلاصه حقوقی درباره یک پرونده ارائه کرده که مشخص شده این ابزار، محتوایی بی پایه و اساس را در اختیار وی قرار داده است.