Cómo funciona la inteligencia artificial que la Fiscalía usará para rastrear redes criminales

En conversación con BioBioChile, el Dr. Richard Weber explicó en detalle cómo funciona y cómo se gestó la plataforma que funciona con inteligencia artificial para ayudar a la Fiscalía a rastrear redes criminales y acortar significativamente los tiempos de investigación.

Una inteligencia artificial (IA) capaz de escrutar bases de datos de la Fiscalía y redes sociales para rastrear potenciales sospechosos para distintos tipos de delitos. Ese es el proyecto en el cual han trabajado por al menos dos años un equipo de científicos, y que será utilizado por la Fiscalía de Chile primero para investigar delitos contra la propiedad, pero esperando pronto aplicarlo a crímenes violentos y narcotráfico.

Aunque aún no tiene nombre oficial, ya está siendo implementado y los fiscales se están capacitando para usarla. Así lo afirma el Dr. Richard Weber, el ingeniero alemán e investigador a cargo del equipo que desarrolla este sistema. A su cargo tiene un equipo de otros tres académicos -la mayoría de ellos miembros del Instituto de Sistemas Complejos de Ingeniería (ISCI)- y una decena de tesistas de la Universidad de Chile, Universidad del Bío Bío y la Universidad de los Andes.

“Lo que estamos desarrollando en esa plataforma son modelos que usan inteligencia artificial y análisis de redes sociales para detectar estructuras de crimen organizado” explica Weber a BioBioChile. “Por ejemplo, podemos ayudar al fiscal a cargo de un caso a encontrar casos similares para enriquecer la investigación de una causa y proveer a los fiscales con información fidedigna”.

Hasta el momento, detalla, la plataforma funciona con datos del Ministerio Público y de la empresa Sosafe, dueña de la aplicación del mismo nombre en la cual víctimas y testigos reportan delitos e incidentes. También es posible usar Twitter, descargando mensajes de la red social y escrutándolos para buscar coincidencias.

La iniciativa pionera en el país nació como un proyecto del Fondo de Fomento al Desarrollo Científico y Tecnológico (Fondef) financiado por la Agencia Nacional de Investigación y Desarrollo (ANID). “Antes ya habíamos trabajado con la Fiscalía y en ese momento dijimos aquí podemos hacer algo un poco más allá, pero que requiere financiamiento”, recuerda. Así, una memoria con una versión rudimentaria del sistema se convirtió en la promesa de una importante herramienta criminalística.

Ya fue probado, y con éxito

“La idea no es tan revolucionaria. Estoy seguro que mucha gente lo ha pensado y probado en universidades a través de memorias. De ahí a instalarlo es otro desafío”, evalúa Weber, acotando que personalmente no sabe de otros sistemas similares en el mundo, aunque muy posiblemente ya existan.

Hasta el momento, indica, “tenemos modelos que corren en un computador y sin conexión con el mundo externo. En la siguiente etapa vamos a escalar el sistema para que corra en un servidor o en la nube, incluso, con accesibilidad para todas las fiscalías del país”.

Esa etapa ya se vuelve más delicada, por cuanto entra en juego la seguridad digital para proteger una herramienta así de sensible. Weber recuerda, por ejemplo, lo ocurrido recientemente con ChatGPT, que por error filtró información personal de los usuarios de su servicios de pago. “Esos son problemas que hay que evitar, pero no son propios de la inteligencia artificial. Son temas de la implementación de un sistema”, matiza.

En cuanto al sistema mismo, su funcionamiento ya quedó demostrado.

Incluso 4 años antes de que se comenzara a trabajar de lleno en el actual proyecto, ya se habían desarrollado modelos que probaron con información de la Fiscalía de la región del Bío Bío.

“Ellos nos hablaron de un crimen cometido por 12 delincuentes. La Fiscalía ya los conocía, pero nos dieron solamente 2 de esos 12. Los demás sospechosos los tenían en su base de datos, así que nos hicieron buscar los restantes diez. Corrimos los modelos con distinta configuración y nos encontramos entre 3 y 8 de los 10 delincuentes que no teníamos en su momento”, recuerda el ingeniero. “Es un muy buen resultado porque es un apoyo para la fiscal a cargo de la investigación”.

Es decir, en aquella ocasión el sistema buscó a los sospechosos ‘a posteriori’, como prueba, pero demostró que de haber sido utilizada con anterioridad pudo haber facilitado la búsqueda.

Criminales perfilados

“Son dos los modelos que usamos con la Fiscalía”, detalla Weber. Uno es un modelo de inteligencia artificial basado en lenguaje natural, como GPT, mientras que el otro analiza redes y conexiones. El sistema, entonces, lo que hace es analizar potenciales sospechosos en base a varios criterios, como sus capacidades criminales, antecedentes, cercanía con los ya identificados y -por ejemplo- si han participado juntos en delitos pasados.

“Entonces nosotros creamos una red de sospechosos, corremos el algoritmo de optimización que nos entrega una asociación que cumple en un alto grado con esa capacidad criminal del grupo, y yo le pido al algoritmo ‘dame un grupo de cinco a ocho candidatos con una alta capacidad criminal a la vez y una buena conexión entre ellos””, ejemplifica.

Por otro lado, los investigadores aplican inteligencia artificial como la de GPT e interpretar lenguaje para “analizar los relatos de las víctimas” plasmados en declaraciones escritas. “Dicen, por ejemplo, ‘anoche a las 22:00 de la noche entraron cinco personas a mi casa. Nos golpearon, etc’. Además, está mal escrito, con errores ortográficos, pero un humano sabe cómo interpretarlo y extraer información importante, como por ejemplo el modus operandi, cuántas personas son, a que hora entraron, por dónde entraron”.

“La computación clásica, sin inteligencia artificial, tiene problemas para tratar ese texto, pero los modelos LLM (Large language models) son capaces de extraer la información importante. Los aplicamos y con eso podemos determinar la similitud entre relatos”, explica.

De esta forma, un fiscal a cargo de un caso puede saber rápidamente si otros casos previos guardan similitudes con el suyo, hace cuánto tiempo ocurrieron y en qué se parecen los modus operandi, permitiéndole barajar la posibilidad de que hayan sido cometidos por las mismas personas.

“Entonces lo que aplicamos aquí es un filtro inteligente que revisa todos los relatos en una base de datos y al fiscal o la fiscal a cargo entrega solamente aquellos casos que tengan altas similitudes. En vez de revisar miles de casos, esa inteligencia artificial le entrega una selección de cinco o diez que tienen alta similitud en modus operandi gracias a la inteligencia artificial que interpreta el texto”.

Asimismo, indica que tanto en este caso como en otros similares es de cuidado tener en cuenta los sesgos humanos a la hora de programar la máquina, para que éstos no afecten su funcionamiento.

¿El futuro de la investigación criminal nacional?

Todo lo anterior es trabajo que hasta hoy se hacía manualmente, y que esta plataforma busca acelerarlo sin perder efectividad.

Weber recalca el interés manifestado no sólo por el fiscal nacional Ángel Valencia, sino también por sus subalternos, pues este jueves al presentar una capacitación para la cual esperaban sólo unos cinco o seis interesados terminaron llegando cerca de 30 fiscales.

Según indica, junto a su equipo esperan que su invención tenga un impacto en los tiempos de investigación al permitir acotar una búsqueda de miles de ‘candidatos’ a sólo cinco -por ejemplo-, pero es difícil estimar en cuánto se reducirán.

Sin embargo, clarifica Weber, su plataforma es sólo una herramienta que no reemplaza el indispensable criterio humano: “no pretendemos reemplazar al fiscal o la fiscal a cargo”.

“Pensamos que el sistema nunca debe funcionar solo, nunca debería tomar una decisión por sí solo. Sólo es un filtro para el fiscal a cargo y esa última palabra siempre la debería tener una persona”, recalca.

Y aún queda desarrollo por delante. “Son varias dimensiones de la proyección futura. Una es adaptar los modelos a otro tipo de crimen. Homicidio, drogas, también los incendios intencionales, un tema que fue muy importante cuatro semanas atrás. Pero también hay otra dimensión de desarrollo que tienen que ver con el software propiamente tal”, proyecta.

“Tenemos que subirlo a la nube, hacerlo usable, y asegurar cierta seguridad de los datos. Obviamente, en ese caso es muy, muy sensible. Tenemos que proveer acceso para los usuarios adecuados y otros temas que son propios del software engineering y que ni siquiera son de inteligencia artificial”, explica en este sentido.

Una tercera dimensión pasa a ser “masificar el sistema, pensando en otras organizaciones. Yo sé que en Chile hay solamente un Ministerio Público, pero por ejemplo Carabineros puede ser un usuario, como también los ministerios públicos de países vecinos”.

“Y una cuarta línea puede ser alimentar los modelos con más datos. Aquí hay un tema que encuentro muy importante: los modelos que usamos hoy usan muy poca información, y veo como algo positivo que así hayamos logrado buenos resultados. Teniendo mayor información por ejemplo de Gendarmería, o de Conaf en el caso de los incendios, así como mayor integración con los datos de la PDI y con Carabineros podríamos enriquecer los modelos mucho más y lograr mejor un mejor desempeño”, estima Weber.

Esta potencial integración ya se está conversando, según asegura el ingeniero, recalcando que han visto un importante apoyo de la Fiscalía, que encabeza estos esfuerzos investigativos. “El nuevo fiscal nacional asumió en enero, nos juntamos en febrero, le presenté lo que teníamos e invité a hablar en el evento que tuvimos la semana pasada. Aceptó y nos ofreció su ‘casa’. Lo hicimos en el auditorio de la Fiscalía”, relata. “Hay interés, pero también compromiso. Ponerse ahí públicamente a decir frente a las autoridades presentes ‘eso vamos a hacer’ es muy potente”.

Los temas de fondo: legislación y educación

Asimismo, destaca la necesidad de regular legalmente ésta y otras tecnologías similares, como ya están haciendo potencias como la Unión Europea, y de avanzar en la educación de la población.

“En mi opinión, deberíamos educar en inteligencia artificial en los colegios, no para que los niños tengan capacidad para desarrollarla, sino para que tengan capacidad de saber en qué contexto aplicarla y en qué contexto no”, manifiesta el ingeniero. “No puede ser que no se conozca, que no se sepa qué es”.

Por ejemplo, recuerda Weber, “escuché hace muchos años atrás que en Alemania hicieron un experimento en que manipularon una calculadora con niños de colegio de entre 12 y 14 años. La usaron para un cálculo simple: 3 x 4 y la calculadora manipulada daba como resultado -7. Los niños lo creían, porque lo decía la calculadora, y la calculadora no se equivoca. Es algo que obviamente va a pasar aquí también”.

Ya lo estamos viendo con las “fotografías” generadas por inteligencia artificial, y las dificultades de algunas personas para discernir si son o no reales. “Una imagen creada artificialmente se ve perfecta, como lo que pasó con la ‘detención’ de Donald Trump, terrible. Y no solamente en el caso de las imágenes, pero sin tener desarrollado ese razonamiento crítico, (las personas) lo creen”.

“También sabemos de la carta que firmaron más de 1.100 personajes de la tecnología diciendo que había que parar el entrenamiento de la inteligencia artificial. Yo no comparto eso. Obviamente entiendo la crítica, pero creo que el camino debe ser otro, educándonos para entender mejor su potencial y limitaciones, en vez de prohibir avanzar”, opina el especialista.

Adicionalmente, está el problema de la alta competitividad que se está gestando en esta industria, causando que si una de las compañías líderes detuviera sus laboratorios nada garantiza que su competencia vaya a seguir el ejemplo. “Entonces no sé si tiene mucho sentido. No es implementable”.

Fuente: Biobio.cl