"روبات های قاتل"؛ دوراهی کنترول تسلیحات

نشست یک هفته ای یک گروه خلع سلاح که به نام کنوانسیون سلاح های متعارف خاص "سی سی وی" یاد می شود، روز دوشنبه به کارش در ژنیو آغاز کرد. این نشست پس از آن آغاز شد که بیش از ۱۰۰ تن از رهبران در صنایع هوش مصنوعی در ماه آگست در مورد این سیستم تسلیحاتی هشدار دادند که می تواند به «انقلاب سوم در جنگ» منجر شود.

امضا کنندگان در نامه ای گفته اند: «وقتی که این سیستم به وجود آمد، به منازعات جنگی اجازه می دهد به پیمانه بزرگتر از همیشه و از نگاه زمانی تندتر از آنچه انسان فکر می کند، به جنگ ادامه بدهند.» در این نامه آمده است: «پیامدهای مرگبار این ماشین ها - نه انسان ها - تعیین می کنند که کی زنده بماند و کی بمیرد.»

در حالی که در ۱۰ سال گذشته، انکشاف سریع هوش مصنوعی و روبات ها در بخش ترانسپورت و صحت، بهبودی برای مصرف کنندگان به وجود آورده است، استفاده نظامی از سیستم های تسلیحاتی خود مختار برای شکار دشمنان، در صورتی که انسانی آن را کنترول نکند، تصویر جنگ های تباه کننده نوع فیلم های ساینس فیکشن را در ذهن مجسم می کند.

 سلاح های مرگبار خودکار چیست؟

کدام توافق بین المللی روی این نکته وجود ندارد که چه چیزی سیستم سلاح های مرگبار خودمختار را می سازد. غالباً چنین تعریف می شود که عبارت از سیستمی است که می تواند بدون کدام کنترول معنادار انسانی نشانه گیری و شلیک نماید. در اساس این ها عبارت از ماشین هایی اند که از سخت افزار و نرم افزارهایی ساخته شده اند که به آنها اجازه اجرای مستقلانه وظیفه را می دهد. این ها به اساس هوش مصنوعی - الگوریتمی، یک وضعیت خاص را ارزیابی می کنند و مطابق به آن عمل می کنند.

سیستم های متعدد تسلیحاتی از هواپیماهای بی سرنشین گرفته تا مهمات دقیق رهبری شده و بطریه های توپچی دافع هوا که از قبل هم در سطوح مختلفی خود مختاری دارند، به درجات مختلفی توسط انسان ها کنترول می شوند. همچنان اردوی چندین کشور نیز برای جستجوی ماین ها، دام ها و مهمات جنگی انفجار نکرده به درجات مختلفی از آن استفاده می کنند.

میشائیل هوروویتس پروفیسور علم سیاست در دانشگاه پنسلوانیا که در مورد سلاح های خودمختار تحقیق کرده، می گوید: «انسان های زیادی به ابعاد خودمختار شدن و کمپیوتری شدن سلاح های امروزی کم بها می دهند. استفاده از سنسورها یا ابزار کشف کننده و مهمات مدرن، قبلاً در برخی موارد بین انسان و میدان جنگ فاصله زیادی ایجاد کرده است.» او می افزاید: «هرگونه مباحثه روی سیستم سلاح های خود مختار، باید از اینجا آغاز گردد که این ها چقدر با تکنالوژی نظامی موجود مشابه اند و تا چه حد متفاوت می باشند.»        

سلاح خود مختار مرگبار در جهان امروز وجود دارد؟

هرگاه دقیقاً گفته شود، سیستم های سلاح های خودمختار مرگبار امروز وجود ندارند. هواپیمای بی سرنشین ضد رادار اسرائیل به نام "آتش و فراموش کن" نزدیک ترین همه به آن ها می باشد. پس از آنکه این هواپیما توسط نیروهای زمینی به کار انداخته می شود، به صورت خودمختار بالای یک منطقه به پرواز در می آید و مطابق به معیارهایی که قبلاً در آن تعبیه شده، رادار مورد نظر را پیدا کرده و مرمی هایش را مانند حملات کامی کازه (حملات انتحاری که پیلوت های جاپانی در جنگ جهانی دوم انجام می دادند) رها می کنند.

کوریای جنوبی یک سیستم توپخانه خودمختار برای حفاظت از مرز شدیداً نظامی شده اش با کوریای شمالی به وجود آورده است. این سیستم تسلیحات شامل سنسور یا کاشف های ترصدی، راهیابی و همچنان شلیک کردن خودکار است که می تواند کاملاً مستقلانه عمل کند؛ اما در حال حاضر استفاده از آن مستلزم ارزیابی توسط یک انسان است که پیش از اقدام باید صورت گیرد.   

نشیب لغزان؟

کارزار متوقف گردانیدن روبات های کشنده توسط یک گروه غیرحکومتی به راه انداخته شده است که می خواهد سلاح های مرگبار خودمختار ممنوع گردند. آن ها می گویند که سنسورها یا کاشف ها و هوش مصنوعی « به طور فزاینده» سیستم های تسلیحاتی را ممکن می گردانند که در آینده بدون مداخله انسان نشانه گیری و شلیک می نمایند.

این گروه در اعلامیه ای گفته است: «هرگاه این تمایل به سوی خودمختاری ادامه یابد، بیم آن می رود که انسان از حلقه تصمیم گیری حذف گردد؛ یعنی در ابتدا صرف یک نقش نظارتی کوچک داشته باشد و بعد از آن درکل هیچ نقشی نداشته باشد.»

در برخی موارد، مانند راکت های کروز موجود، سنسورها یا کاشف ها، و رهبری سیستم از زمین و کارکرد خودمختار سیستم سلاح منجر به حملات بسیار هدفمندانه می شود و تلفات ناخواسته را به تناسب بمباردمان متعارف، بسیار کاهش می دهد.

اما کارشناسانی که این نامه منتشر شده در ماه اگست را امضا کرده اند، نگرانی های اخلاقی شان را در مورد ساختن سیستم های تسلیحاتی کاملاً خودمختار ابراز داشته اند که چیزی غیر از سیستم های نیمه خود مختارو سیستم های خودمختار امروز باشد که تحت هدایت انسان ها قرار دارند.

در این اعلامیه نوشته شده است: «سیستم های تسلیحاتی خودمختار مرگبار که کنترول پرمعنای انسان را از تعیین مشروعیت اهداف از بین ببرد، به دور از یک مشی اخلاقی روشن قرار دارد.»

اولریک فرانک یک عضو سیاستگذاری در شورای اروپائی برای روابط خارجی که در دانشگاه آکسفورد روی هواپیماهای بی سرنشین تحقیق می کند، می گوید: ضمانتی وجود ندارد که کدام سیستم تخنیکی به طور کامل و بی نقص کار کند، "اما مجال دادن به سلاح های مرگبار، خطر را چندین بار افزایش می دهد. یک سیستم سلاح هوشمند به زودی می تواند به یک سیستم تسلیحاتی گنگ مبدل شود."

هرگاه یک سیستم کاملاً خودمختار از هدف منحرف گردد، می تواند منجر اوضاع پیچیده ناخواسته در میدان جنگ گردد، ملکی ها را هدف قرار دهد و جنگ بین نیروهای خودی را به وجود آورد. همچنان در صورتی که انسان ها در آن هیچ نقشی نداشته باشند و یا اینکه نقش اندکی داشته باشند، می تواند مسائلی را در مورد قوانین جنگ و سیاست نظامی به وجود آورد و این موضوع را مطرح نماید که مسئولیت را کی به عهده دارد.  

فرانک سوال می کند: «تاکجا ما می توانیم فرمانده نظامی را مسئول به کار انداختن چنین سیستمی بدانیم، در صورتی که هیچ طریق پرمعنائی برای آن وجود نداشته باشد که وی پیش بینی نماید که سلاح چگونه عمل می کند؟»

هرگاه این سلاح ها یا روبات های کشنده، به دست یک رژیم ناباب بیفتد که هیچ پروائی در مورد مسائلی مانند این که سلاح ها علیه مردم خودش به کار گرفته شوند و یا اینکه به دست تروریست ها و یک نقش پرداز غیرحکومتی بیفتد، می توانند موجب تخریبات نابوده کننده ای گردند.

کنترول تسلیحات

اما همه به این فکر نیستند که پیشرفت سلاح های کاملاً خودمختار نقش انسان را در سلاح کاهش می دهد. بریان هال دگروال بازنشسته ایالات متحد امریکا که یک تحلیل گر برنامه های تسلیحات خودکار در ستاد مشترک امریکاست، در ماه جولای نوشت که یک امتیاز سلاح های خودمختار در آنست که این سیستم "ناشی از افزایش تصمیم گیری انسانی است، نه تعویض آن." با اینهم او هشدار داد که با توجه به سرعت و انکشاف در علم و فن آوری، پیش بینی  ظرفیت سلاح های خودمختار در آینده دشوار است و شاید ایجاب تغییراتی را در قوانین و سیاست بکند.

چندین کشور به شمول ایالات متحد امریکا، روسیه، چین و اسرائیل در صدد تحقیق و ساختن سیستم هاس تسلیحاتی خود مختار اند، بدون آنکه از آن نگرانی داشته باشند که شاید در قسمت دشمنان نتوانند متعهد به اصول بشری، اخلاقی و قانونی بمانند. در سال های آینده، با بهبود تکنالوژی این در عمل منجر به یک مسابقه تسلیحاتی در قسمت «روبات های کشنده» می شود.

چنانکه ولادیمیر پوتین رئیس جمهور روسیه درماه سپتمبر گفت که هرکسی که در بخش هوش مصنوعی رهبری را داشته باشد «حاکم جهان خواهد شد.» کارشناسان می گویند: در حالیکه ظرفیت قدرتمند سلاح های خود مختار در میدان جنگ سبب نگرانی می شود، ممنوع قرار دادن و یا قانونمندساختن شان نیز مشکل تر می گردد

آنها می گویند: «این یک مساله بسیار پیچیده در کنترول اسلحه است. هرقدر پوتانسیل تسلیحات برای نظامیان مفید باشد، به همان اندازه تنظیم و یا ممنوع قرار دادن آن ها نیز دشوار می باشد.»

وینر چاس/ر.ر