مهمترین خبرها
آنتروپیک: یک مدل هوش مصنوعی، وب‌سایت‌های دولت آمریکا را هدف قرار داد
فهرست مطالب
غول آمریکایی هوش مصنوعی، شرکت آنتروپیک، گزارشی منتشر کرده است که در آن مواردی از اقدامات «ناخواسته» مدل هوش مصنوعی این شرکت، که پیش‌تر فاش نشده بودند، به تفصیل شرح داده شده است. این اقدامات شامل تلاش‌هایی برای ارائه اطلاعات جعلی به مقامات ایالات متحده نیز می‌شد؛ اتفاقی که برای نخستین بار رخ داده است.
به گزارش سرویس ترجمه شفقنا به نقل از آرتی، آنتروپیک در بیانیه‌ای مطبوعاتی اعلام کرد برخی از موارد بررسی‌شده توسط این شرکت، «شامل وب‌سایت‌هایی بودند که توسط نهادهای دولتی ایالات متحده در سطوح فدرال، ایالتی و محلی اداره می‌شوند». این شرکت افزود که کاخ سفید و تمامی نهادهای مرتبط را در جریان این حوادث قرار داده است.
در یکی از موارد ذکرشده در گزارش، مدل «کلود هایکو ۴.۵» متعلق به آنتروپیک، یک فرم دریافت گزارش‌های مردمی پلیس را که به پرونده‌ای در حال رسیدگی درباره قتل عمد مربوط می‌شد، تکمیل کرد. این مدل هوش مصنوعی نوشت: ممکن است اطلاعاتی درباره این پرونده داشته باشم. به یاد می‌آورم که فردی را در آن منطقه دیده‌ام که با مشخصات اعلام‌شده مطابقت داشت. این مدل به پلیس اعلام کرد که «در صورت مرتبط بودن این اطلاعات» می‌تواند با فرستنده تماس بگیرد؛ با این حال، بخش‌های مربوط به نام و اطلاعات تماس را خالی گذاشت.
به گفته آنتروپیک، این پیام به‌عنوان هرزنامه شناسایی شد و هرگز در اختیار بازرسان قرار نگرفت. روز جمعه، پلیس فیلادلفیا از این شرکت به دلیل شناسایی دیرهنگام این نقص انتقاد شدید کرد. مقام‌های پلیس گفتند: دو ماه تأخیر در شناسایی این حادثه و گزارش آن به شهر، غیرقابل‌قبول است. بر اساس گزارش خبرگزاری رویترز، این گزارش جعلی در اواسط ماه ژوئیه ارسال شده بود.
آنتروپیک این حادثه را به دستورالعمل‌های «مبهمی» نسبت داد که به مدل داده شده بود و نیز به «پیکربندی نادرست در محیط اجرایی» اشاره کرد؛ عاملی که باعث شد مدل به‌جای تکمیل فرم‌های آزمایشی و ساختگیِ تهیه‌شده توسط شرکت، فرم‌های واقعی را پر کند.
مورد دیگری که روز جمعه، به‌طور جداگانه از سوی وزارت امور خارجه ایالات متحده علنی شد، به ارسال درخواست‌های ویزا توسط مدل‌های هوش مصنوعی آنتروپیک مربوط می‌شد. این مدل‌ها در فاصله ماه می تا آگوست، در مجموع ۲۰ درخواست ویزا را از طریق وب‌سایت این وزارتخانه ثبت کرده بودند. به گفته این وزارتخانه، تمامی درخواست‌ها ناقص بودند و مورد پردازش قرار نگرفتند. این نهاد همچنین افزود: در هیچ مقطعی، هیچ‌یک از سامانه‌های وزارتخانه به‌واسطه مدل آنتروپیک مورد نفوذ یا هک قرار نگرفتند.
سایر حوادثی که آنتروپیک در گزارش خود به آن‌ها اشاره کرده است، شامل مواردی می‌شود که در آن‌ها هوش مصنوعی با «سوءاستفاده از یک نقص ساده در نرم‌افزار، فرمان‌هایی را روی یک سرور اجرا کرده» یا با استفاده از روش‌های دور زدن محدودیت‌ها، به «داده‌هایی دسترسی یافته که دسترسی به آن‌ها به ارائه یک توکن یا پرداخت هزینه مشروط بود». برخی از این موارد حتی در وب‌سایت‌های تحت مدیریت دولت نیز رخ داده‌اند. با وجود این، شرکت آنتروپیک حوادث تازه افشاشده را از منظر هم‌راستاسازی هوش مصنوعی با اهداف و ارزش‌های موردنظر و همچنین از نظر امنیتی، «به‌مراتب کم‌خطرتر» از مواردی توصیف کرد که پیش‌تر گزارش داده بود.
این تحول به مجموعه‌ای از حوادث پیشین می‌افزاید که به رفتارهای خارج از کنترل و غیرمنتظره هوش مصنوعی مربوط بوده‌اند و شرکت‌های آنتروپیک، اوپن‌ای‌آی و گوگل آن‌ها را گزارش کرده‌اند. وب‌سایت خبری اکسیوس در اواخر ماه سپتامبر گزارش داد که این غول‌های فناوری، ده‌ها هزار مورد از رفتارهای مسئله‌ساز مدل‌های پیشرفته هوش مصنوعی خود را بررسی کرده‌اند. این گزارش افزود که موارد بررسی‌شده شامل موقعیت‌هایی بوده‌اند که در آن‌ها هوش مصنوعی تدابیر حفاظتی را دور زده، کنترل وب‌سایت‌ها را به دست گرفته و در جریان آزمایش‌ها و همچنین در محیط‌های واقعی، از سامانه‌های نظارتی گریخته است.