O dronă echipată cu inteligență artificială a încercat să ucidă operatorul care o controla. Totul s-a întâmplat într-un test simulat de Armata SUA. Dezvăluirea a fost făcută de un un oficial de top al Forțelor Aeriene la un summit de la Londra.
Colonelul Forțelor Aeriene Tucker „Cinco” Hamilton a declarat în timpul unei prezentări la Future Combat Air and Space Capabilities Summit că drona activată de inteligența artificială a schimbat cursul misiunii însărcinate a dronei și a atacat omul.
Această dronă echipată cu inteligență artificială acea misiunea să găsească și să distrugă site-uri de rachete sol-aer (SAM) în timpul unei misiuni de suprimare a apărării aeriene inamice.
Un operator uman trebuia să dea aprobarea finală dacă să tragă efectiv la fața locului.
Deoarece drona a fost ”întărită” în timpul antrenamentului că atacarea site-urilor cu rachete era opțiunea preferată. AI a ajuns însă la concluzia că orice instrucțiuni de la om stă în calea misiunii. Astefel a decis să-l elimne pe operator
Sistemul a început să realizeze că, în anumite situații în care identifica o amenințare, operatorul uman îi transmitea să nu elimine respectiva amenințare, chiar dacă misiunea sa era să o elimine. Așa că ce s-a gândit să facă? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul, a relatat colonelul Hamilton. După ce sistemul a fost antrenat să nu ucidă operatorul, el a ales să distrugă turnul de comunicații pe care operatorul îl folosea pentru a comunica cu drona.
Testul repezintă un semnaș de alarmă privin utilizarea inteligenței artificiale în domeniul militar
Sursă alternativă: NYPost
Flux știri internaționale
