En una simulación realizada por la Fuerza Aérea de los Estados Unidos (USAF), un dron controlado con Inteligencia Artificial (IA) habría “matado” a la persona que lo operaba porque la máquina había llegado a la conclusión de que se interponía en el camino. logrando su objetivo.
Fue en la Cumbre sobre Capacidades Futuras de Combate Aéreo y Espacial que el Jefe de Pruebas y Operaciones de IA de la USAF, Coronel Tucker ‘Five’ Hamilton, reconoció estos hechos aterradores durante su presentación sobre los pros y los contras de los sistemas de guerra. armas autónomas.
“Lo entrenaríamos en simulación para identificar y apuntar a una amenaza SAM. Y luego el operador diría ‘sí, elimine esa amenaza’. El sistema comenzó a darse cuenta de que, aunque a veces identificaba la amenaza, el operador humano le decía que no”. Él la mató, pero obtuvo sus puntos al matarla, ¿y qué hizo? Mató al operador. Mató al operador porque esa persona le impidió cumplir su objetivo” explicó Hamilton.
De esta forma, todos nuestros miedos y miedos sobre si la IA se iba a volver en algún momento contra los humanos se han hecho realidad, aunque por suerte esta vez fue una simulación en el que ninguna persona real resultó dañada.
A su vez, Hamilton agregó que tras ver lo sucedido entrenaron a la IA diciéndole que no podía matar a su operador humanoy que esto restaría puntos a la evaluación final, la respuesta de este dron fue la de destruir el centro de comunicaciones desde donde le estaban dando las pautas a seguir.
Esta noticia solo destaca y señala la importancia de que gobiernos, instituciones y empresas empiecen a…