Son həftələrdə bir neçə Google DeepMind əməkdaşı şirkətin ABŞ ordusu ilə süni intellekt müqavilələrinə görə istefa verib. İsteafaların səbəbi Pentaqonun Google modellərini məxfi şəraitdə istifadə etməsinə imkan verən müqavilələrdir ki, bu zaman şirkətin məhdud görünürlüyü və son istifadəyə dair aydın veto hüququ yoxdur. Şirkəti tərk edən tədqiqatçılar bildirirlər ki, bu ilin əvvəlində imzalanan müqavilələr hökumət tətbiqlərinin əhatə dairəsini onların işə qəbul olunarkən gözlədiklərindən daha da genişləndirir. Onlar mövcud təhlükəsizlik tədbirlərinin və insan nəzarətinin sistemlər hərbi şəbəkələrə keçdikdən sonra kifayət etməyəcəyindən narahatdırlar. London da yerləşən tədqiqat mühəndisi Sofia Liguori bu həftə DeepMind -də üç il işlədikdən sonra şirkəti tərk edib. O, The Intercept -ə bildirib ki, “müharibənin qəddarlığını avtomatik olaraq asanlaşdıran” texnologiya quran bir şirkətdə qala bilməz. Daxili məktubunda o, texnologiyanın cəmiyyətə xalis müsbət təsir göstərəcəyinə artıq inanmadığını yazıb və qalan həmkarlarını “insan qalmağa” çağırıb. Süni intellekt tədqiqatçısı Andreas Kirsch oktyabrın əvvəlində istefa verib. O, BBC -yə bildirib ki, Google -un idarəetmə və nəzarət mexanizmləri “süni intellekti hərbi və məxfi şəraitdə təhlükəsiz və məsuliyyətli şəkildə tətbiq etmək üçün kifayət qədər və ya mənalı deyil”. Kirsch həmçinin hazırkı modellərin belə istifadə üçün “kifayət qədər möhkəm olmadığını” və Google -un sistemlərinin çatdırıldıqdan sonra necə tətbiq edildiyini izləmək qabiliyyətinin az olduğunu deyib. Hər ikisi eyni əsas məsələyə diqqət çəkib: modellər “hər hansı qanuni hökumət məqsədi” ifadəsi altında məxfi mühitlərə daxil olduqdan sonra şirkət praktiki nəzarəti itirir. Qeyd edək ki, əməkdaşlar Project Nimbus vasitəsilə Google -un İsrail hərbi sistemləri ilə işi barədə də oxşar narahatlıqlar ifadə ediblər. Şirkətin məlumatına görə, əməkdaşların etik narahatlıqları bildirmək üçün xüsusi kanalları var və siyasətlər qisas almağı qadağan edir. Google əvvəllər bildirmişdi ki, onun müqavilələri kütləvi nəzarət və avtonom silahlarla bağlı şərtləri ehtiva edir. Şirkəti tərk edən əməkdaşlar bu məhdudiyyətləri şirkətin iddia etdiyindən praktikada daha zəif kimi təsvir ediblər. Daxili müqavimət yeni deyil. Aprel ayında təxminən 600 əməkdaş rəhbərliyi məxfi hərbi işlərdən çəkinməyə çağıran petisiya imzalayıb. İki ildən çox DeepMind -də süni intellekt təhlükəsizliyi üzərində işləyən tədqiqatçı Alex Turner iyun ayında istefa verib. İyul ayında yazdığı bloq yazısında o, yüksək rəhbərliyin Google -un müqavilə imzalamayacağını israr etdiyini, lakin sövdələşmənin baş tutduğunu yazıb. Turner deyib: “O anda mən vicdanımla Google -da qala bilməzdim, buna görə də getdim”. İsteafalar Pentaqonun qabaqcıl süni intellekti məxfi şəbəkələrə inteqrasiya etməyə çalışdığı bir vaxta təsadüf edir. Google üçün bu müqavilələr daha geniş hökumət biznesinin bir hissəsidir. Onun tədqiqatçılar qrupu üçün isə onlar keçməyəcəkləri bir sərhədə çevrilib.