Películas personalizadas, programas de TV, y sugerencias de acompañamiento musical son efectuados con poderosos algoritmos de (IA), que incrementan la participación y la capacidad de retención del espectador.
Carlos Pantsios*
La inteligencia artificial (IA) es una tecnología, cuyas bases teóricas comenzaron a desarrollarse en los 1950 (John McCarthy, Dartmouth 1953), y que emergiendo como una nueva fuerza transformadora del mundo tecnológico actual. Ella se ha considerado como “la ciencia e ingeniería para desarrollar maquinas inteligentes”, o “la actividad dedicada a hacer que las maquinas se tornen inteligentes”.
Tales definiciones hicieron surgir preguntas sobre lo que significa “inteligencia”. La palabra implica una curiosidad filosófico-cultural, con la inteligencia como una característica de capacidad que aparentemente les confiere a los seres humanos un lugar preponderante sobre otras formas de vida.
La (IA) sugiere aquí, que puede ser simulada por medios tecnológicos, y que permanece diferente respecto a la inteligencia de tipo “natural” o, posiblemente, “real” de los seres humanos.
La (IA) se compone de un complejo sistema robotizado que aprenden y se adapta en forma única, usando una gran cantidad de datos externos para su entrenamiento.
El corazón del sistema de (IA) es una Red Neuronal Artificial (RNA), que puede ser considerada un “cerebro” artificial altamente especializado, capaz de mejorar los procesos de toma de decisiones, revolucionando el mundo industrial de hoy en día. Su diseño se basa en una arquitectura muy compleja, constituida por billones de neuronas artificiales (NA) interconectadas entre sí, a veces provistas de funciones de transferencia no lineales, y que se agrupan en capas que aprenden y se adaptan a través de los datos externos suministrados a la (RNA).
El potencial de la (AI) de procesar grandes cantidades de datos, y producir una mirada interior en tan solo unos segundos, es extraordinario. Si esta tecnología llega a controlarse apropiadamente, podrá entregar la mejor de las expectativas sobre muchos sectores de aplicación en el mundo de hoy, y del mañana. Sin embargo, esta capacidad puede y, de hecho, hace oscurecer los mecanismos que están detrás de las decisiones que entrega la (IA) a su salida, dando lugar a retos que demandan la atención y la creatividad de los seres humana para resolver los problemas que esconde la (IA). La rápida adopción de las soluciones impulsadas por (IA) en el testeo de todo tipo de software, cuidado de la salud, y el fintech, entre otros, ha levantado preocupaciones sobre transparencia, responsabilidad, y confianza. Mientras más progresa la (IA), en cuanto a su capacidad y complejidad, más se complican los problemas que se esconden detrás de las dimensiones tecnológicas, éticas y sociales vinculadas a ella.
La creciente disponibilidad de monitoreo de datos y de los avances en la computación conducen a que la (AI) y el aprendizaje de motores (ML) se conviertan en herramientas clave para que los operadores de redes, por ejemplo, puedan automatizar la compleja administración de las mismas. Las soluciones que ofrecen los sistemas de (IA) han demostrado capacidades supra humanas en solucionar un amplio espectro de problemas en la vida real. Entre ellos, se destaca el abordaje de problemas de administración muy desafiantes, como la detección de fallas, identificación de causas de fallas, predicción de fallas y de localización de las mismas, produciendo la adopción generalizada de la (IA) en la industria.
Sin embargo, las soluciones basadas en la (IA) frecuentemente han hecho surgir el escepticismo entre los practicantes de esa tecnología, ya que su utilización se efectúa, con mucha frecuencia, como si se tratase de auténticas “cajas negras”. Esta naturaleza de caja negra que exhibe la (IA) frecuentemente crea retos en cuanto al entendimiento de la forma en que se hacen las decisiones, conduciendo a escepticismo entre los mismos desarrolladores, reguladores, y usuarios finales. Esta falta de interoperabilidad es particularmente preocupante en aplicaciones en las que hay mucho en juego, como es el caso de errores de la (IA) en el testeo de todo tipo de software, produciendo fallas del sistema, o donde algoritmos para finanzas pueden resultar en prácticas injustas.
El problema planteado ocurre en casi todos los dominios, incluyendo el de los medios y la industria del entretenimiento. Aquí, la (IA) posee un amplio espectro de efectos, incluyendo las técnicas de mercadeo, eficiencia, personalización y la creación de contenido. Con algoritmos que evalúan masivas cantidades de datos para crear contenido específicamente enfocado para audiencias, la producción de contenido se ha hecho más dinámica y enfocada. La experiencia de entretenimiento incluye ahora el reconocimiento de voz, los “chatbots”, los asistentes personales, que permiten la operación con manos libres, y una mejor asistencia al usuario.
Películas personalizadas, programas de TV, y sugerencias de acompañamiento musical son efectuados con poderosos algoritmos de (IA), que incrementan la participación y la capacidad de retención del espectador.
Igualmente, en post-producción y en la edición de videos realizados con la automatización con (IA), se ha incrementado enormemente la productividad y la reducción de costos. Todo esto, y mucho más, hace que cobre más relevancia la gran preocupación que existe en confiar ciegamente en los sistemas basados en la (IA), como los elementos cruciales del siglo XXI para reformar la industria.
Debe destacarse aquí, que el razonamiento interno de los modelos de (IA) no están expuesto, previniendo que los humanos que los operan le tengan confianza y, aun mas, no entendiendo su funcionamiento. Por esta razón, los sistemas de (IA) requieren de asistencia permanente de seres humanos preparados, que aseguren la respuesta lógica de los mismos.
La (IA) está transformando la sociedad actual, de un sistema legal a un ambiente corporativo. Ella promete eficiencia, visión interior, y autonomía sin precedentes. Sin embargo, mientras más capaz y compleja se torna la (IA) más se complica la respuesta a la pregunta: ¿es la (IA) confiable? ¿En caso negativo, ¿cómo lograr que se pueda confiar en sus resultados? Los sistemas de (IA), especialmente los modelos de aprendizaje profundo, pueden fallar debido a varias causas inherentes:
- Las (IA) se basan en estadísticas y no en algo determinístico: Los modelos de (IA) (como las redes neuronales) no entienden la realidad –ellos identifican patrones a partir de los datos proporcionados y extrapolan de allí. Si estos patrones son incorrectos, incompletos, o sesgados, la predicción puede ser errada.
- Características de los datos suministrados: Si los datos de entrenamiento son de pobre calidad, sesgados, o incompletos, la calidad de las predicciones es afectada directamente.
- Sobrecargado/Subcargado: Un modelo de (IA) pudiese memorizar ruido irrelevante (sobrecarga de datos) a fallar en la captura de patrones esenciales (subcarga de datos), las predicciones pueden ser inexactas.
- Casos excepcionales: Los modelos de (IA) se complican con situaciones raras, novedosas o fuera de-distribución, para los que no fueron entrenados.
- Naturaleza de “caja negra”: Modelos complejos como redes neuronales profundas (numerosas capas escondidas) poseen billones de parámetros que no son ni remotamente transparentes, intuitivamente, para los seres humanos. Los modelos trabajan entonces a ciegas, como cajas negras.
Los procesos predictivos que realizan los modelos de (IA) no son bien conocidos: Especialmente en los modelos de aprendizaje profundo y los modelos (ML) complejos se presentan los siguientes problemas, no solucionados hasta ahora:
- La forma en que los modelos combinan características y parámetros para lograr sus predicciones está distribuida a través de capas de representaciones abstractas.
- A diferencia del diseño de un sistema basado en reglas, típicamente humano, no existe una secuencia lógica explicita que se pueda trazar desde la entrada hasta la salida del modelo de (IA).
Usualmente, cuando los desarrolladores de modelos (IA) no pueden explicar claramente por qué un modelo predijo algo en específico responden que estadísticamente el modelo responde así con entradas similares.
Desde hace ya un tiempo se creó la “eXplainable Artificial Intelligence” (XIA) (inteligencia artificial explicable) una solución tecnológica pivote que viene a llenar el vacío, ofreciendo métodos de interpretación de los modelos (IA) sin comprometer sus calidades de operación. Se persigue con ello lograr transformar la caja negra en una “caja transparente”.
En el testeo de software operado por (IA), la (XIA) ayuda a desarrollar pruebas de depuración de fallas, entender sesgo en los modelos, mejorar la cobertura de pruebas al suministrar explicaciones humanas convincentes.
Por medio de la (XIA), los practicantes podrán comprender la forma en que el modelo de (IA) puede llegar a las decisiones, y aún más, conocer las razones detrás de las decisiones del mismo y, por ello, conocer si las decisiones tomadas se basan en razonamientos correctos o errados. Todo esto puede generar una visión interna crucial con respecto a cómo el modelo de (IA) puede ser mejorado y perfeccionado.
Al integrar técnicas de (XIA) –tales como SHAP, LIME, y explicaciones basadas en reglas – las organizaciones de todo tipo podrán mitigar estos riesgos mientras mantienen la calidad de operación del (IA).
En conclusión, el reto aquí es que se desarrollen, implementen y adopten técnicas de (XIA) en los modelos de (IA) que persigue llenar el vacío al proveer aproximaciones o interpretaciones de lo que ocurre en el interior de los modelos, con el fin de lograr que la (IA) sea más segura, justa y confiable.
*Texto escrito por Carlos Pantsios Markhauser, PhD, IEEE. es Ingeniero en Telecomunicaciones, doctor en electrónica de telecomunicaciones, Magister en Comunicaciones de la Universidad Simón Bolívar, con Especialización en Telecomunicaciones en satélite y redes The George Washington University - School of Engineering & Applied Science, Especialización en Telecomunicaciones Digitales University of Colorado Boulder. Se desempeña como profesor titular de postgrado en las escuelas de telecomunicaciones en la Universidades Simón Bolívar y Universidad Católica Andrés Bello. Además de consultor profesional en proyectos de TV basado en Argentina.
