ایریک اشمیت، مدیر عامل سابق گوگل، هشدار داده است که سوء استفاده از هوش مصنوعی یک “ریسک شدید” به حساب می‌آید و ممکن است آسیب فاجعه باری وارد کند.
در گفت‌وگو با برنامه امروز رادیو 4 BBC، اشمیت ابراز نگرانی کرد که هوش مصنوعی می‌تواند توسط افراطی‌گران و “دولت های خلافکار” مانند کره شمالی، ایران و روسیه برای “صدمه زدن به مردم بی گناه” سلاح سازی شود.
اشمیت نگرانی از اینکه پیشرفت‌های سریع هوش مصنوعی می تواند برای ایجاد اسلحه، از جمله حملات بیولوژیکی، سوء استفاده شود، را نشان داد. او در مورد خطرات موضوع گفت: “ترس واقعی من همین است، نه آنچه که بیشتر مردم در مورد هوش مصنوعی صحبت می‌کنند، من در مورد ریسک شدید صحبت می‌کنم.”
با استفاده از یک تشبیه ترسناک، اشمیت به رهبر القاعده که برای هجمات 11 سپتامبر مسئول بود اشاره کرد: “من همیشه نگران سناریوی اسامه بن لادن هستم، جایی که یک شخص واقعا شرور بخشی از زندگی مدرن ما را تصاحب می‌کند و آن را برای آسیب زدن به مردم بی‌گناه استفاده می‌کند.”
او تاکید کرد بر سرعت توسعه هوش مصنوعی و احتمال سوء استفاده آن توسط کشورها یا گروه هایی که هدف شرورانه دارند.
فکر کنید درباره کره شمالی، یا ایران، یا حتی روسیه، که هدف شرورانه‌ای دارند … آن‌ها می‌توانند از آن سوء استفاده کنند و آسیب واقعی وارد کنند،” اشمیت هشدار می‌دهد.
نظارت بدون خفه کردن نوآوری
اشمیدت درخواست کرد که دولت ها به شدت نظارت کنند بر شرکت های تکنولوژی خصوصی که در حال پیشرو هستند در تحقیقات هوش مصنوعی. او در حالی که توجه داشت که رهبران فناوری به طور کلی آگاه از تأثیرات هوش مصنوعی در جامعه هستند، ممکن است تصمیماتی بر اساس ارزش های متفاوت از ایالات عمومی بگیرند.
تجربه من با رهبران فناوری این است که آن ها درکی از تاثیری که دارند دارند، اما شاید تصمیم متفاوتی در مورد ارزش ها بگیرند نسبت به دولت.”
همچنین اشمیت کنترل های صادرات معرفی شده تحت ریاست جمهوری سابق ایالات متحده جو بایدن را به حمایت خود در سال گذشته برای محدود کردن فروش میکروچیپ های پیشرفته تایید کرد. این اقدام به منظور کاهش پیشرفت دشمنان ژئوپلیتیکی در تحقیقات هوش مصنوعی دستور داده شده است.
تقسیم بندی های جهانی در جلوگیری از سوء استفاده از هوش مصنوعی
این کارآزمای فناوری زمانی که اظهارات خود را ارائه می‌داد در پاریس بود، در حالی که شرکت می‌کرد در اجلاس فعالیت هوش مصنوعی، یک رویداد دو روزه که در سه شنبه به پایان رسید.
این اجلاس، با حضور 57 کشور، شاهد اعلام یک توافق بر روی توسعه “شامل” هوش مصنوعی بود. امضا کنندگان شامل بازیکنان اصلی مانند چین، هند، اتحادیه اروپا، و اتحادیه آفریقا بود.
با این حال، انگلستان و ایالات متحده خودداری کردند از امضای کمینه. دولت انگلستان گفت که این توافق نیازمند “وضوح عملی” است و نتوانست “سوالات سخت تر” مربوط به امنیت ملی را مطرح کند.
اشمیت ابراز نگرانی از مقررات زیادی که ممکن است در پیشرفت در این زمینه تحول یافته باشد. این نظر توسط معاون رئیس جمهور آمریکا، جی دی ونس، تایید شد که هشدار داد: مقررات سنگین دست “صنعت تحول یافته را کشته می کند تازه در حال برخاستن است”.
این امتناع از حمایت از موافقت‌نامه‌های بین‌المللی وسیع نشان‌دهنده رویکردهای متفاوت به حاکمیت هوش مصنوعی است. اتحادیه اروپا یک چارچوب محدود‌تر برای هوش مصنوعی را طراحی کرده است، با توجه به حفاظت از مصرف کنندگان، در حالی که کشورهایی مانند ایالات متحده و انگلستان برای استراتژی های چابک تر و مدعوم از نوآوری انتخاب می‌کنند.
اشمیت با اشاره به پیامد قانون‌گذاری سفت اروپا، پیش‌بینی کرد که این منطقه از نقش‌های پیشرو در هوش مصنوعی باز خواهد ماند.
“انقلاب هوش مصنوعی، که به نظر من مهمترین انقلاب است از زمان برق، در اروپا اختراع نخواهد شد،” او توضیح داد.
اولویت قرار دادن ایمنی ملی و جهانی
نظرات اشمیت در پی افزایش بررسی ها بر روی قابلیت استفاده دوگانه هوش مصنوعی—قابلیت استفاده برای هر دو هدف منافع و اهداف مضر— طرح شد.
از تصاویر زبان تا اسلحه های خودکار، هوش مصنوعی خطر های زیادی را ایجاد می کند اگر بدون اقداماتی برای جلوگیری از سوء استفاده باقی بماند. رهبران و متخصصان، از جمله اشمیت، در حال طراحی یک رویکرد متعادل است که نوآوری را برانگیخته و در عین حال مستقیما این خطرات را مطرح می‌کند.
در حالی که همکاری بین‌المللی هنوز موضوع پیچیده و مورد بحث می‌باشد، اجماع کلی مشخص است: بدون حفاظت ها، تکامل هوش مصنوعی ممکن است عواقب ناخواسته – و احتمالا فاجعه بار- داشته باشد.
(عکس توسط گیوم پومیه تحت مجوز CC BY 3.0. برش داده شده به پرتره از نسخه اصلی.)
همچنین ببینید: نپک: سرعت هوش مصنوعی خطر فاجعه زیست محیطی را افزایش می‌دهد
تمایل دارید بیشتر از هوش مصنوعی و داده‌های بزرگ از رهبران صنعت یاد بگیرید؟ نگاهی به اکسپو هوش مصنوعی و داده کلان بیندازید که در آمستردام، کالیفرنیا و لندن برگزار می‌شود. این رویداد جامع با دیگر رویدادهای برجسته از جمله کنفرانس اتوماسیون هوشمند، بلوکایکس، هفته تحول دیجیتال، و اکسپو امنیت سایبری و ابر همراه است.
دیگر رویدادهای تکنولوژی سازمانی و وبینارهای آتی را که توسط TechForge قدرت بخشیده شده، بررسی کنید.
