با گسترش ادغام هوش مصنوعی در عملیات تجاری، نگرانی‌های جدیدی در زمینه امنیت و تهدیدهای امنیتی به وجود می‌آیند که سرعت آنها بیشتر از توانایی راهکارهای سنتی امنیت سایبری است. فشار زیادی وجود دارد و پیامدهای بزرگی ممکن است به دنبال داشته باشد. بر اساس شاخص امادگی هوش مصنوعی سیسکو 2024، تنها 29 درصد از سازمان‌هایی که در این مطالعه شرکت کرده‌اند، احساس می‌کنند که کاملاً آماده شناسایی و جلوگیری از دستکاری غیرمجاز فناوری‌های هوش مصنوعی هستند.
دی‌جی سامپات، سرپرست نرم‌افزار هوش مصنوعی و پلتفرم در سیسکو، می‌گوید: “وقتی در مورد اعتبارسنجی مدل صحبت می‌کنیم، این فقط یک بار اتفاق نمی‌افتد، درست است؟ شما دائماً بر اعتبارسنجی مدل کار می‌کنید.” در ادامه افزود: “سیسکو برای جلوگیری از خروجی‌های مضر، آسیب‌پذیری‌های مدل‌های هوش مصنوعی را به تاثیرات خارجی غیرمجاز که می‌توانند رفتار آنها را تغییر دهند، می‌پردازد. این ریسک‌ها شامل حملات تزریق درخواست، زندانی کردن و تجویز داده‌های آموزشی هستند که هرکدام مستلزم اقدامات پیشگیرانه سختگیرانه‌ای هستند.
همچنین در این مقاله به پیچیدگی‌های جدیدی پرداخته شده است که با پیشرفت‌های هوش مصنوعی برای صنعت به وجود می‌آید، و نحوه‌ی شناسایی و پیشگیری از آسیب‌پذیری‌های امنیتی در مدل‌های چندگانه و کاربردهای مختلف بررسی شده است.
در نهایت، جیتو پاتل، معاون اجرایی و مدیر فرآیندهای سیسکو، اظهار داشت: “هر پیشرفت بزرگی در یک دوره کوتاه زمانی به نظر انقلابی می‌رسد اما به سرعت عادی می‌شود.” با این حال، او توجه کرد که “نمی‌توان پیشرفتی را که این مدل‌ها در حال به دست آوردن آن هستند، نادیده گرفت” و در نهایت، نوع مواردی را که قفل می‌کنند.
پاتل باور دارد که این نرمال‌سازی نیز با AGI اتفاق خواهد افتاد. او افزود: “هیچ کس فکر نمی‌کرد که ما یک گوشی هوشمند خواهیم داشت که ظرفیت محاسباتی بیشتری از یک کامپیوتر اصلی دست خود دارد و می‌تواند هزاران کار را در هر زمان انجام دهد و حالا فقط یک روش دیگر برای زندگی است. دختر 14 ساله من حتی به آن فکر نمی‌کند. ما باید مطمئن شویم که ما به عنوان شرکت‌ها به این وضعیت بسیار سریع تنظیم می‌شویم.”
برای آشنایی بیشتر با هوش مصنوعی و داده‌های بزرگ از سرگروهان صنعت نیز، به نمایشگاه AI & Big Data Expo در آمستردام، کالیفرنیا و لندن مراجعه کنید. این رویداد جامع با رویدادهای برجسته دیگری از جمله همایش اتوماسیون هوشمند، BlockX، هفته تحول دیجیتال و نمایشگاه امنیت سایبری و ابر دیتا مشترک است. برای کشف رویدادها و وبینارهای فناوری سازمانی آینده توسط TechForge نیز این مقاله را مطالعه کنید.
