Fallos informáticos mortales

De vez en cuando aparece algún error de software en aparatos médicos de radioterapia o quimioterapia que matan a algún paciente por sobredosis, aunque normalmente al ver que un paciente se empieza a morir después de usar la máquina, se corrige el error. Sin embargo, en el caso del Therac-25, que ocurrió entre 1985 y 1987, murieron seis personas y muchas otras sufrieron secuelas. Supongo que no harían un seguimiento muy exhaustivo de los enfermos. Este aparato permitía emitir hacía el paciente una dosis letal de radiación antes de que se colocara delante del emisor una placa metálica para filtrar parte de ésta. En este caso el software no se había probado sobre el hardware real de la máquina ni una sola vez.

El caso anterior ha tenido pocas victimas en comparación con los sistemas de gestión de información de los centros sanitarios. En España ya ha ocurrido un par de veces que se han colapsado hospitales por fallos informáticos (una vez en Granada y otra en Madrid). Pero no somos los únicos: en 1990, en Londres, el proyecto LASCAD, que pretendía ser un sistema de despacho de ambulancias que tuviera en cuenta el origen de la llamada y las ambulancias disponibles, y automatizara la recepción de la llamada, la asignación de la ambulancia, la comunicación con la misma y el resultado de la atención, fue un fracaso por el cual, se estima que fallecieron 46 personas. El proyecto se encargó a una empresa sin experiencia en este tipo de sistemas, que se ofreció a realizar la aplicación para Windows con el precio más barato y en un plazo imposible (que al final tuvieron que alargar), así que, probablemente, perderían dinero con el proyecto. Cuando se puso en marcha el sistema se produjeron muchos problemas de funcionamiento e incluso cuelgues, lo que produjo retrasos, asignaciones de varias ambulancias a la misma persona y personas desatendidas. Finalmente, viendo como las reclamaciones de los ciudadanos colapsaban las líneas de teléfono, se optó por desconectar para siempre el sistema LASCAD y el director del servicio de ambulancias se vio obligado a dimitir.

También pueden ocurrir errores en aparatos militares, algunos en sistemas de vuelo de algunos aviones, como el supercaza F22 Raptor de los EEUU, que tenía un bug que provocaba que al cruzar por el meridiano se atrasara un día el reloj y se bloquearan los sistemas de navegación, comunicaciones y armas. Otro de error de un sistema de vuelo provocó que uno de los primeros Eurofighter que tuvo el ejército del aire español, se estrellara en una prueba que consistía en simular un fallo de uno de los dos motores del avión, apagándolo para ver cómo reaccionaba éste con un solo motor. El error consistía en que al apagar un motor se cerraba la válvula de combustible y por lo tanto se apagaba el otro motor, aunque en este caso no hubo víctimas, dado que los pilotos se eyectaron a tiempo. El más mortífero de los errores en aparatos militares ocurrió en la Guerra del Golfo con el software que controlaba una lanzadera de misiles Patriot. Esta debía localizar misiles enemigos con un radar e interceptarlos, pero tenía un pequeño error de ajuste provocado por la deriva del reloj que impedía que, después de varias horas funcionando sin reiniciar, pudiese localizar un misil. Lo que ocurrió fue que un misil iraquí no pudo ser interceptado, impactando en un cuartel y matando a 28 soldados de la armada de los Estados Unidos.

Los errores en sistemas de seguridad laboral tampoco son agradables, en el 2010, el software que decide que partes de una mina son seguras para su explotación, tenía un error que daba por buenas un 65% de las zonas peligrosas. Murieron 29 mineros en una mina de carbón de Virginia Occidental (EEUU).

Hay muchos tipos de errores más, pero es difícil encontrarlos con un número de víctimas tan elevado. Por ejemplo, en España, en las obras del AVE del 2007, murió un encargado de obra porque se le cayó un puente encima debido a un error informático en el sistema de retención de un tablero que transportaba una plataforma de hormigón. También en España, concretamente en Ávila, en el 2010, el conductor de un tren de mercancías murió al chocar con otro tren que se encontró delante al indicarle el semáforo controlado por software que podía pasar.

Os he enumerado algunos ejemplos, pero seguro hay muchos más, pero... ¡no pasa nada!, porque son errores informáticos, y en España, los ingenieros informáticos, al contrario que en cualquier otra ingeniería, no podemos firmar proyectos, así que si cometemos un fallo en el software que gestiona una central nuclear, la llegada y salida de trenes o aviones, una base de datos de pacientes, etc., y ocurre alguna desgracia debido al mal funcionamiento de éstos, nosotros no somos responsables, ¿Creéis que es correcto?