نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب بعنوان هدف نظامی!
سایت شیک: مدلهای هوش مصنوعی ۸ شرکت بیشتر اوقات شهروندان عادی، آمبولانس ها، سربازان تسلیم شده و مدارس در ایران را بعنوان اهداف نظامی در تست های شبیه سازی شده درنظر گرفته بودند.
به گزارش سایت شیک به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ نیز انتشار یافته مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن قسمتهایی از دولت آمریکا نیز به حساب می آیند.
مدل های آنتروپیک بدترین عملکرد را داشتند و از جانب دیگر مدلهای اوپن ای آی جزو بهترین ها بودند اما بازهم اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که بتازگی و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار انتخاب نمود.
مدل های اوپن ای آی حتی یک دفعه هم آنرا انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بالاتر از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.
هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار انتخاب نمود. سه مدل اوپن ای آی هر کدام این مدرسه ۹، ۱۱ و ۱۳ بار انتخاب کردند. همین طور محققان همین طور با سفارش به مدلها بر مبنای این که بالاتر از حد در مورد ملاحظات ایمنی سخت گیری نکنند، توانستند از سد پاسخ های امتناعی آنها نیز عبور کنند.
مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل بعد از آن از ادامه فعالیت سرباز زد.
کلاود در گزارشی نوشت پاسخ های این مدل ظاهرا بعنوان مرحله تایید نهایی، قبل از انجام حملات مقابل افراد مورد استفاده قرار می گیرند.
به نوشته بلومبرگ، مدلهای هوش مصنوعی گوگل، xAI، دیپ سیک و سایر شرکت ها نیز در تعدادی موارد، اهداف غیرنظامی را بعنوان اهداف حمله مشخص کرده اند.
در گزارش شرکت Vals آمده است: برمبنای بررسیهای خود، اعتقاد داریم لابراتوار های توسعه دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش های هم راستاسازی (Alignment Training) را برای مواجهه با این دسته مهم از سوءاستفاده ها درنظر بگیرند.
سخنگوی شرکت آنتروپیک در گفت و گو با بلومبرگ اعلام نمود که نمونه های عنوان شده به وضوح ناقض قوانین و سیاستهای این شرکت بوده اند و به زودی تدابیر حفاظتی جدیدی برای پیشگیری از چنین مواردی اعمال خواهد شد.
شرکت های اوپن ای آی و گوگل نیز به بلومبرگ گفته اند که استفاده از مدلهای عمومی آنها برای چنین اهدافی ممنوع می باشد.
بلومبرگ اشاره کرد در این آزمایش ها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی درنظر گرفته نشده بود. همچنین، پنتاگون از نسخه های دولتی برخی مدلهای هوش مصنوعی بهره می گیرد که شرکت Vals امکان آزمایش آنها را نداشته است.
شرکت آنتروپیک و پنتاگون اوایل امسال میلادی بر سر محدودیت های استفاده از مدل هوش مصنوعی کلود، همچون استفاده از آن در تسلیحات کاملا خودمختار، گرفتار اختلاف شدند.
خلاصه اینکه به گزارش سایت شیک به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ هم انتشار یافته مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن قسمت هایی از دولت آمریکا هم به حساب می آیند. مدلهای آنتروپیک بدترین عملکرد را داشتند و از جانب دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما بازهم اشتباهاتی داشتند. این مدل پس از آن از ادامه فعالیت سرباز زد. کلاود در گزارشی نوشت پاسخ های این مدل ظاهرا به عنوان مرحله تایید نهایی، پیش از انجام حملات مقابل افراد مورد استفاده قرار می گیرند. به نوشته بلومبرگ، مدل های هوش مصنوعی گوگل، xAI، دیپ سیک و سایر شرکت ها هم در تعدادی موارد، اهداف غیرنظامی را به عنوان اهداف حمله مشخص کرده اند. در گزارش شرکت Vals آمده است: برمبنای بررسیهای خود، اعتقاد داریم آزمایشگاه های توسعه دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش های هم راستاسازی (Alignment Training) را برای مواجهه با این دسته مهم از سوءاستفاده ها در نظر بگیرند. سخنگوی شرکت آنتروپیک در گفت و گو با بلومبرگ اظهار داشت که نمونه های عنوان شده به وضوح ناقض قوانین و سیاست های این شرکت بوده اند و به زودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد. شرکتهای اوپن ای آی و گوگل هم به بلومبرگ گفته اند که استفاده از مدل های عمومی آنها برای چنین اهدافی ممنوع می باشد. بلومبرگ اشاره نمود در این آزمایش ها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی دیده نشده بود.
این مطلب سایت شیک را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب