Con esto de que ahora todo el mundo recomienda usar la Inteligencia Artificial, me he dado a la tarea de estar leyendo literatura sobre la IA desde el punto de vista de sus voceros como de sus detractores.
Hoy les voy a comentar mi punto de vista sobre el segundo capítulo de un libro que leo, referente a que el desarrollo de esta herramienta debe considerar un módulo de gestión de riesgos, y desde ahora les digo que estoy totalmente de acuerdo.
Salió al análisis un segundo caso de un accidente fatal con el uso de la IA. Era un Tesla con autoconducción, que daba servicios de UBER, al ir circulando sobre una vía de velocidad media se enfrentó con el escenario en el que un transeúnte cruzó la calle en un punto no permitido y sin percatarse que el Tesla venía hacia su ubicación exacta.
Como ya les adelante, el resultado fue catastrófico, el vehículo autoconducido no tuvo la intuición que cualquier humano hubiera tenido, al ver el riesgo que el peatón pudiera cruzar la calle de forma descuidada, el resultado fue que el carro mantuvo su dirección a la misma velocidad y embistió al transeúnte quitándole la vida en un instante.
Lo que expongo en este ejemplo, es que, dentro de la programación de posibles soluciones a eventos, las decisiones del vehículo no contemplaban la mitigación de riesgos. El Tesla atropelló al transeúnte sin siquiera bajar un poco la velocidad, esto demuestra que no estaba programado para dar una respuesta a ese escenario.
Ahora imaginen este escenario en una situación de diagnóstico de cáncer, en identificación biométrica de un delincuente o en una situación de ataque nuclear, si el algoritmo de la IA no está programado con otro algoritmo de mitigación de riesgos, los eventos catastróficos irán en aumento.
Voy a poner mi caso, cuando voy manejando y veo a un niño sobre la acera, o a un bicicletista rodando, prefiero reducir la velocidad o incluso parar con tal de no tener un accidente, esta sensibilidad debe ser contagiada al software que toma las decisiones de algún aditamento dirigido por Inteligencia Artificial.
En conclusión, hay que irnos con calma con el uso de la IA, que todavía queda mucho por delante para que sea totalmente libre de riesgo.
Comentarios: Jorge.medinasal@gmail.com
MANTENTE AL DÍA CON TODO LO ÚLTIMO EN NUESTRO CANAL DE TELEGRAM
Te puede interesar:
