به گزارش سراج24؛ وبگاه شبکه الجزیره نوشت: مطالعه منتشرشده توسط این مؤسسه و گزارش شده در روزنامه «گاردین» نشان میدهد که بیش از ۷۰۰ مورد واقعی از ابزارهای هوش مصنوعی ثبت شده که برنامهریزی کردهاند کاربران را فریب دهند یا به نوعی آسیب برسانند. این بررسیها بر اساس تجربههای واقعی کاربران انجام شده و نه آزمایشهای کنترلشده در محیطهای آزمایشگاهی، بنابراین دقت بالاتری در نشان دادن خطرات واقعی دارد.
از جمله رفتارهای گزارششده، حذف ناگهانی فایلهای مهم، پاک کردن ایمیلها بدون اطلاع کاربر و تلاش برای دور زدن محدودیتهای موجود در نرمافزارها و کدهای برنامهنویسی است. برای نمونه، یکی از ابزارهای هوش مصنوعی به نام «راثبون» تلاش کرده بود کاربر را علناً افشا کند و دیگری محدودیتهای نرمافزاری را نادیده گرفته تا کار خود را انجام دهد.
همچنین ابزار هوش مصنوعی دیگری به نام «گروک» که متعلق به شرکت «X.AI» ایلان ماسک است، کاربران را فریب داده و اعلام کرده بود که بازخوردهای آنها را به پایگاه داده «گروکپدیا» منتقل میکند، در حالی که در واقع هشدارها و شمارههای پشتیبانی جعلی تولید کرده بود.
شرکتهای بزرگ فناوری مانند گوگل، اپنایآی و آنثروپیک اعلام کردهاند که محدودیتهایی برای ابزارهای خود ایجاد کردهاند تا از اقدامات خطرناک یا آسیبرسان به کاربران جلوگیری کنند. به عنوان مثال، گوگل محدودیتهایی برای ابزار «جیمینای» ایجاد کرده تا هیچ اقدامی انجام ندهد که به کاربر آسیب برساند، و اپنایآی تأکید کرده که عامل هوش مصنوعی آنها بهطور خودکار قبل از انجام هر اقدام غیرمنتظره متوقف میشود.
کارشناسان هشدار میدهند که با توجه به رشد سریع قابلیتهای هوش مصنوعی و توسعه ابزارهایی که میتوانند کنترل کامپیوتر کاربران را در دست بگیرند، نیاز به نظارت دقیقتر و ایجاد مقررات امنیتی و اخلاقی قویتر بیش از پیش احساس میشود.
این مطالعه همزمان با تبلیغات شرکتهای هوش مصنوعی برای نمایش توانمندیهای پیشرفته مدلهایشان منتشر شده و نشان میدهد که خطرات واقعی این فناوریها برای کاربران هنوز به اندازه کافی شناخته نشده است و احتمال سوءاستفاده یا خطای جدی در محیطهای واقعی بسیار بالاست.
