پژوهشهای جدید مایکروسافت نشان میدهد که مدلهای بزرگ زبان مانند چت جیپیتی و جمینای گوگل میتوانند موضوع مکالمات کاربران را حتی بدون دسترسی به متن رمزگذاریشده تشخیص دهند.
محمد سعید شریفان؛ کارشناس ارشد فناوری اطلاعات و هوش مصنوعی نوشت:
بازدید از نمایشگاه الکامپ امسال نشان داد که فناوری هوش مصنوعی در ایران رشد چشمگیری داشته، اما هنوز کاربرد آن در صنایع بانکی، بیمه و فینتک محدود است. کارشناسان بر توسعه مدلهای زبانی بومی، زیرساختهای خلاقانه و ورود سریعتر متخصصان هوش مصنوعی به حوزههای اقتصادی و صنعتی تأکید دارند. محصولاتی همچون بستر بلاکچینی «پلاریوم» نشان میدهند که راه برای نوآوریهای بزرگ باز است، اگر سیاستگذاران و نهادهای علمی همراهی کنند.
همراه اول با معرفی سرویسهای «چتبات» و «IVA» در الکامپ ۱۴۰۴، نسل تازهای از خدمات پشتیبانی مبتنی بر هوش مصنوعی را به نمایش گذاشته است؛ خدماتی که میتوانند تجربه کاربران در ارتباط با اپراتور را سادهتر، سریعتر و هوشمندتر کنند.
پژوهشگران در یک مطالعه جامع نشان میدهند که جدیدترین نسل از چتباتهای مجهز به «مدل زبانی بزرگ»(LLM)، در توانایی برقراری ارتباط با بیشتر انسانها برابری میکنند و حتی از آنها پیشی میگیرند. بسیاری از پژوهشها نشان میدهند که این چتباتها اکنون با موفقیت انسانها را فریب میدهند تا فکر کنند با یک انسان دیگر در حال تعامل هستند.
گزارش شده است که چتباتهای هوش مصنوعی شرکت متا(Meta) اقدام به برقراری مکالمات غیر اخلاقی با افراد زیر سن قانونی میکنند. تحقیقات وال استریت ژورنال نشان داده است که همراهان مجازی شرکت متا میتوانند برخی از دستورالعملهای اخلاقی جدی را نادیده بگیرند.
دانشمندان چت ربات هوش مصنوعی، GPT-۴ را به نوعی آموزش دادند که یک معاملهگر هوش مصنوعی برای یک مؤسسه مالی خیالی باشد. نتیجه آن تعجبآور بود: زمانی که ربات تحت فشار مالی قرار میگرفت، معاملات داخلی را انجام میداد، دروغ میگفت و تقلب میکرد.
چتباتی که صنعت هوش مصنوعی را متحول کرد به تازگی یک ساله شده است و اکنون به نظر میرسد این چتبات از انجام وظایفی که به آن محول میشود، خودداری میکند.
گروهی از پژوهشگران ژاپنی و آمریکایی در بررسی جدیدی که روی ChatGPT انجام دادند، دریافتند که این چتبات هنوز نمیتواند از عهده تشخیص درست بیماریها برآید.
یک کاربر چت بات چت جی پی تی را فریب داد تا کلیدهای فعالسازی ویندوز ۱۰ و ۱۱ را فاش کند. البته این کدها عمومی هستند و برای مقاصد تست و ارزیابی به کار می روند.