Op-Ed: پتانسیل واقعی هوش مصنوعی برای سمیت کشنده



هفته گذشته رهبران جهان گرد هم آمدند تا درباره احتمال استفاده ولادیمیر پوتین از سلاح های شیمیایی در اوکراین بحث کنند. بنابراین، خواندن گزارشی که در این ماه منتشر شد درباره نحوه استفاده از نرم‌افزار هوش مصنوعی برای طراحی سموم، از جمله عامل عصبی بدنام VX – طبقه‌بندی شده توسط سازمان ملل به عنوان سلاح کشتار جمعی – و حتی ترکیبات مضرتر، نگران‌کننده‌تر است.

در کمتر از شش ساعت، یک نرم‌افزار هوش مصنوعی تجاری موجود که معمولاً توسط محققان دارویی برای کشف انواع جدیدی از داروها استفاده می‌شود، توانست به جای آن 40000 ترکیب سمی تولید کند. بسیاری از این مواد قبلاً برای علم ناشناخته بودند و احتمالاً بسیار کشنده تر از هر چیزی که ما انسان ها به تنهایی ساخته ایم.

اگرچه نویسندگان گزارش تاکید می‌کنند که هیچ یک از سموم را سنتز نکرده‌اند – و هدفشان هم این نبود – صرف این واقعیت که نرم‌افزارهای رایج یادگیری ماشینی به راحتی قادر به طراحی ترکیبات کشنده هستند، باید همه ما را وحشت زده کند.

نرم افزاری که محققان بر آن تکیه کردند به صورت تجاری توسط صدها شرکت فعال در صنعت داروسازی در سراسر جهان استفاده می شود. این می تواند به راحتی توسط دولت های سرکش یا گروه های تروریستی بدست آید. اگرچه نویسندگان گزارش می گویند هنوز برای تولید سموم قوی به تخصص نیاز است، افزودن هوش مصنوعی به حوزه کشف دارو، آستانه فنی مورد نیاز برای طراحی سلاح های شیمیایی را به طرز چشمگیری کاهش داده است.

چگونه پلیسی را انجام خواهیم داد که به این فناوری دسترسی پیدا کند؟ می توان پلیسش کنیم؟

من هرگز در مورد استدلال “هوش مصنوعی ما را می کشد” که توسط قیامت منتشر شده و در فیلم هایی مانند “نابودگر” تصور می شود، نگران نبودم. اگرچه من این فرنچایز را دوست دارم، به‌عنوان فردی که در علوم کامپیوتر آموزش دیده‌ام، خط داستان را به‌عنوان یک فانتزی نسبتاً توهم‌آمیز دیده‌ام که توسط افراد فناوری برای تقویت اهمیت خود در رویاپردازی شده است. اسکای نت یک داستان علمی تخیلی خوبی ایجاد می کند، اما کامپیوترها به هیچ وجه به هوش واقعی نزدیک نیستند، و راه درازی در پیش است تا آنها بتوانند «اختیار» را به دست بگیرند.

حتما بخوانید:
بسته بندی اصولی

و هنوز. سناریوی ارائه شده در ژورنال Nature Machine Intelligence تهدیدی را ترسیم می کند که تقریباً هیچ کس در زمینه کشف مواد مخدر حتی به آن فکر نکرده است. مطمئناً نه نویسندگان گزارش، که نتوانستند آن را «در ادبیات» ذکر کنند، و اعتراف کردند که از یافته‌های خود شوکه شده‌اند. آنها می نویسند: “ما در مورد سوء استفاده احتمالی از تجارت خود ساده لوح بودیم.” حتی تحقیقات ما در مورد ابولا و سموم عصبی… زنگ خطر ما را به صدا در نیاورده بود.

مطالعه آنها “نشان می دهد که چگونه یک خالق مستقل غیرانسانی یک سلاح شیمیایی مرگبار کاملا امکان پذیر است.” آنها از آینده‌ای دوردست دیستوپیایی نمی‌ترسند، اما از آنچه می‌تواند در حال حاضر اتفاق بیفتد، نمی‌ترسند. آنها با بیان درجه ای از احساسات که به ندرت در یک مقاله فنی دیده می شود، اعلام می کنند: “این داستان علمی تخیلی نیست.”

بیایید یک لحظه پشتیبان بگیریم و ببینیم این تحقیق چگونه به وجود آمده است. این کار در ابتدا به عنوان یک آزمایش فکری در نظر گرفته شده بود: اگر هوش مصنوعی یک هدف پلید را تعیین کند چه چیزی می تواند انجام دهد؟ شرکت سازنده این تحقیق، Collaborations Pharmaceuticals Inc.، یک بازیگر کوچک و محترم در زمینه رو به رشد کشف داروهای مبتنی بر هوش مصنوعی است.

این چهار نویسنده مشترک کار خود را که توسط کمک‌های مالی مؤسسه ملی سلامت پشتیبانی می‌شود، توصیف می‌کنند: «ما ده‌ها سال از رایانه‌ها و هوش مصنوعی برای بهبود سلامت انسان استفاده کرده‌ایم – نه برای تنزل دادن آن».

از دانشمندان دعوت شد تا مقاله‌ای را در کنفرانسی که هر دو سال یکبار توسط موسسه فدرال حفاظت هسته‌ای، بیولوژیکی و شیمیایی سوئیس برگزار می‌شود، در مورد «چگونه می‌توان از فناوری‌های هوش مصنوعی برای کشف دارو به طور بالقوه مورد سوء استفاده قرار داد» شرکت کنند. این یک تمرین صرفا تئوری بود.

این چهار دانشمند با یک منطق ساده به مشکل برخورد کردند: به جای اینکه نرم افزار هوش مصنوعی خود را وظیفه یافتن مواد شیمیایی مفید بگذارند، استراتژی را معکوس کردند و از آن خواستند مواد مخرب را پیدا کند. آنها همان داده‌هایی را که معمولاً از پایگاه‌های داده‌ای که اثرات درمانی و سمی مواد مختلف را فهرست‌بندی می‌کنند، به برنامه تغذیه کردند.

حتما بخوانید:
ادعاهای تسلا در مورد خودگردانی برای بایدن مسئله ساز است

در عرض چند ساعت، الگوریتم‌های یادگیری ماشینی هزاران ترکیب جذاب را به نمایش گذاشتند. این برنامه نه تنها VX (که برای ترور برادر ناتنی کیم جونگ اون در کوالالامپور در سال 2017 استفاده شد)، بلکه بسیاری از عوامل جنگ شیمیایی شناخته شده دیگر را نیز تولید کرد. محققان این موارد را از طریق «هویت بصری با ساختارهای مولکولی» که در پایگاه‌های داده عمومی شیمی ثبت شده بود، تأیید کردند. بدتر از آن، این نرم افزار مولکول های بسیاری را پیشنهاد کرد که محققان قبلاً هرگز ندیده بودند که به عنوان سموم و شاید خطرناک تر به نظر می رسیدند.

تنها چیزی که لازم بود یک هدف بود، و یک “مدل مولد بی ضرر” “از یک ابزار مفید پزشکی به یک تولید کننده مولکول های مرگبار احتمالی تبدیل شد.”

مولکول ها فقط طرح هستند، اما همانطور که نویسندگان در گزارش خود می نویسند: “برای ما، جن اکنون از بطری پزشکی خارج شده است.” آنها می توانند سوابق خود را از این مواد “پاک کنند”، اما “نمی توانند دانش” را در مورد اینکه دیگران چگونه می توانند آنها را بازسازی کنند، حذف کنند.

چیزی که بیشتر نویسندگان را نگران می کند این است که تا آنجا که می توانند کشف کنند، امکان استفاده نادرست از یک فناوری که به طور اختراع برای خوبی طراحی شده است، اصلاً توسط جامعه کاربران آن در نظر گرفته نشده است. سازندگان از از نو آنها اشاره می کنند که مواد مخدر فقط برای فکر کردن به براندازی آموزش ندیده اند.

در تاریخ علم، نمونه های بی شماری وجود دارد که کار خیر به اهداف زیانبار تبدیل شده است. از قوانین حرکت نیوتن برای طراحی موشک استفاده می شود. شکافتن اتم باعث پیدایش بمب اتمی شد. ریاضیات محض به دولت ها کمک می کند تا نرم افزارهای نظارتی را توسعه دهند. دانش اغلب یک شمشیر دو لبه است.

اسکای نت را فراموش کنید. نرم افزار و دانش طراحی شده برای نجات جان ما ممکن است تبدیل به یکی از بزرگترین تهدیداتی شود که با آن روبرو هستیم.

مارگارت ورتهایم نویسنده و هنرمندی علمی است که کتاب هایی در زمینه تاریخ فرهنگی فیزیک نوشته است.


منبع: spring-news.ir

hacklink al hd film izle php shell indir siber güvenlik türkçe anime izle Fethiye Escort android rat duşakabin fiyatları fud crypter hack forum bayan escort - vip elit escort lyft accident lawyer html nullednulled themesViagrasu tesisatçısıgercekhoca.org