1. Idi na sadržaj
  2. Idi na glavnu navigaciju
  3. Idi na ostale ponude DW-a

Da li smo uskoro u rukama robota?

Hainer Kieser3. decembar 2015

Autonomni sistemi su u proboju. Oni voze naše automobile, pomažu u njegovanju i organizuju naš društveni život. Život postaje ugodniji, ali čovjek bi na kraju mogao da bude gubitnik.

https://p.dw.com/p/1HFxw
Japan Roboter Pepper
Foto: picture-alliance/AP Photo/K. Sasahara

Oni su na sve strane i sve ih je više. Brojke Međunarodne federacije za robotiku (IFR) pokazuju jasan trend kada je riječ o širenju djelimično i potpuno autonomnih sistema. Prošle 2014. godine zabilježena je prodaja robota u vrijednosti od oko šest milijardi evra, za industrijske, medicinske i privatne potrebe. Biznis sa velikim stopama rasta. Kada je riječ o robotima koji pomažu ljudima sa hendikepom ili u njegovanju, IFR biljeleži rast prodaje od 542 procenta. Privrednici trljaju ruke, ljudi dobijaju pomoć, ali kada se baci pogled na čitav proces, otkrivaju se mučni detalji.

„Ti sistemi nas plaše, posebno kada liče na ljude“, zaključuje Kristijane Vupen, direktorka Centra za etiku iz Kelna i predsjednica Etičkog savjeta. Na jednom predavanju o organizaciji Fondacije Dajmler-Benc, ona se zapitala da li se ljudi sa automatizacijom dovode u sumnjivu zavisnost i da li je to opasnost. „Kada robot budućnosti, sve ono što mi radimo, bude radio bolje, sigurnije i efikasnije – šta će onda biti sa nama?

Kristijane Vupen: Ti sistemi nas plaše
Kristijane Vupen: Ti sistemi nas plašeFoto: dapd

Dugo odlagani odgovori

Već sadašnji roboti su u pojedinim oblastima otišli mnogo dalje od ljudi. Neumorno i precizno rade u fabrikama, operišu u klinikama, organizuju i kontrolišu podatke. Uskoro će odlučivati i o životu i smrti. Pritom neće činiti greške, jer oni – još uvijek – rade po pravilima, koja su im zadali njihovi tvorci. Čovjek će ponovo biti suočen sa pitanjima, za čijim odgovorima traga već više od 2.500 godina. Njih je sada potrebno naći, napredak ih iziskuje.

Trenutno se recimo naveliko diskutuje o problemu vožnje uz pomoć auto-pilota. Do sada – poslije testova i stotina hiljada kilometara na kalifornijskim putevima – zahvaljujući prije svega defanzivnom programiranju, nije došlo do teških nesreća u saobraćaju. Svi stručnjaci su složni, da će u saobraćaju biti manje nesreća, kada ga preuzme tehnika. To je u interesu društva.

Algoritam smrti

Ali jednom će, u situaciji opasnoj po život, biti neizbježno da se kompjuter odluči između različitih scenarija udesa: jedno dijete neočekivano izlazi na ulicu, za kočenje nema dovoljno vremena. Da li bi u toj situaciji trebalo možda udariti u vozila iz suprotnog pravca sa više putnika? Da li bi bolje bilo udariti u stariju ženu invalida na pješačkom prelazu? Ili bi možda tu smrtonosnu odluku trebalo da donese takozvani generator slučajnog izbora? Ustaljena pravna praksa nam zabranjuje odluku o tome koji život treba da prevagne – sada je to potrebno definisati.

Robot za maženje, pomaže pri njezi bolesnika koji boluju od demencije
Robot za maženje, pomaže pri njezi bolesnika koji boluju od demencijeFoto: picture-alliance/dpa

Ali i u poslovnom svijetu, ili kod njege bolesnika postoje sporne situacije. Industrija 4.0 prepušta umreženim robotima proizvodne procese, kod kojih na kraju više nije jasno da li su oni rezultat ljudskih odluka. Sistemi samostalno uče i time napuštaju granice koje su ljudi prvobitno postavili programiranjem. Da li robot-njegovatelj prelazi granice kada starijeg pacijenta nagovara da pije, iako on trenutno nema želju da popije čašu vode?

Neodređena odluka

Kaj Gering iz nemačkih Zelenih zalaže se za hitnu diskusiju
Kaj Gering iz nemačkih Zelenih zalaže se za hitnu diskusijuFoto: Büroorganisation Kai Gehring MdB

Život ljudi će uz pomoć robota biti sigurniji i ugodniji. Ali to ne znači da će biti i ljudskiji. Mašine su prilično šture u svojim odlukama. „Nije li upravo ranjivost, emocionalnost i iracionalnost to što čini čovjeka“, pita se etičarka Vupen. U vezi tih aspekata zabrinut je Kaj Gering. On je u njemačkom parlamentu portparol stranke Zelenih za nauku, obrazovanje i tehnologiju. „Smatram da algoritmi ne smiju da odlučuju o ljudima“, naglašava on. Gdje bi tačno trebalo uvesti kontrole i kako bi one trebalo da izgledaju, još uvijek ne može da kaže. „To je novo polje i zato o njemu mora da se razgovara.“

I njegov kolega iz parlamenta, Joahim Fajfer, portparol unije CDU/CSU za privrednu i energetsku politiku, smatra da su neophodne konsultacije. Fajfer upozorava da bi oprez trebalo da bude u prvom planu: „Moramo da budemo otvorenih očiju, na mnogim poljima se pokazalo da su ljudi najveći riziko-faktor.“