La creciente omnipresencia del término «inteligencia artificial» en el debate público chileno plantea un desafío jurídico basal: la imprecisión conceptual impide una regulación eficaz. Mientras columnas, proyectos de ley y discusiones académicas invocan esta expresión para agrupar fenómenos tan dispares como sistemas de diagnóstico médico, generación de imágenes o moderación de contenidos en redes, no siempre se distingue entre realidades técnicas que generan riesgos y efectos jurídicos completamente diferentes. Para el derecho, esa vaguedad no es inocua; tiene consecuencias directas sobre la capacidad del Estado para identificar responsabilidades, auditar procesos y proteger derechos fundamentales.
AMBIGÜEDAD DEL CONCEPTO
Bajo el rótulo de inteligencia artificial se congregan tecnologías con finalidades, niveles de riesgo y consecuencias jurídicas heterogéneas. Un algoritmo de recomendación de contenidos en una red social no presenta los mismos dilemas regulatorios que un sistema de vigilancia biométrica o una herramienta de apoyo diagnóstico en el ámbito sanitario. Sin embargo, al tratarlos bajo una misma categoría, se corre el riesgo de aplicar un mismo estándar a situaciones que merecen tratamientos diferenciados. Esta confusión dificulta la elaboración de políticas públicas precisas y la asignación de responsabilidades claras.
IMPACTO EN LA MODERACIÓN DE REDES SOCIALES
El ámbito de las redes sociales en línea ilustra con nitidez esta problemática. La experiencia diaria de millones de usuarios chilenos está mediada por sistemas automatizados que recomiendan publicaciones, ordenan el flujo informativo, detectan infracciones, reducen la visibilidad de contenidos, eliminan publicaciones o suspenden cuentas. Estos mecanismos no son meras herramientas técnicas para gestionar grandes volúmenes de datos; inciden directamente en la circulación de discursos y, por tanto, en la configuración del debate público.
La moderación automatizada responde a una necesidad práctica innegable: el volumen diario de publicaciones hace inviable la revisión manual exhaustiva. No obstante, también puede generar errores significativos, especialmente cuando los sistemas operan en contextos lingüísticos, culturales o políticos que no fueron considerados en su diseño original. Estas fallas se intensifican en plataformas globales que deben adaptarse a realidades locales como la chilena, donde matices idiomáticos o expresiones propias de la región pueden ser malinterpretadas por algoritmos entrenados con datos mayoritariamente anglosajones.
Desde una perspectiva regulatoria, surgen preguntas concretas: ¿cómo se informa a un usuario sobre una decisión automatizada que afecta su cuenta? ¿Qué instancias de revisión humana existen cuando el sistema comete un error? ¿Deben auditarse periódicamente los sistemas de recomendación para evitar la amplificación de contenidos nocivos? Y, lo más relevante, ¿qué responsabilidades jurídicas recaen sobre la plataforma cuando sus algoritmos favorecen sistemáticamente la propagación de discursos de odio o desinformación?
NECESIDAD DE DISTINCIONES REGULATORIAS
Si todo es inteligencia artificial, nada lo es con la precisión que exige la regulación. Una política pública eficiente requiere distinguir entre sistemas de bajo y alto riesgo, entre usos privados y usos con impacto público, y entre herramientas meramente auxiliares y aquellas que inciden en derechos fundamentales como la libertad de expresión, la honra o la igualdad ante la ley. También exige identificar a los actores responsables, pues detrás de cada sistema algorítmico hay decisiones humanas, empresariales y técnicas que generan obligaciones jurídicas.
En el ordenamiento chileno, estas distinciones son clave para aplicar correctamente normas como la Ley 19.628 sobre protección de la vida privada, o eventuales regulaciones sectoriales que surjan en materia de consumo, competencia desleal y derechos digitales. La falta de precisión conceptual puede llevar a regulaciones inaplicables o insuficientes, que no aborden los verdaderos riesgos.
LA PREGUNTA PÚBLICA FUNDAMENTAL
En el campo de las redes sociales en línea, esa exigencia conceptual resulta urgente. Los sistemas automatizados de moderación y recomendación ya participan en la definición diaria de lo que es visible, relevante y discutible en el espacio público digital. No reemplazan por completo la decisión humana, pero la reorganizan, la escalan y muchas veces la vuelven menos transparente para el usuario afectado.
Por lo tanto, no basta con hablar de inteligencia artificial en abstracto. La interrogante pública central no es qué puede hacer la tecnología, sino qué estamos permitiendo que haga, quién responde por sus consecuencias y bajo qué reglas comunes debe operar. Para el derecho chileno, esa es la tarea regulatoria pendiente: construir categorías jurídicas que permitan distinguir, auditar y responsabilizar a los actores involucrados, sin caer en generalizaciones que diluyan la protección de derechos.
Nota del Editor Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
