Síguenos en:
Columnistas | PUBLICADO EL 25 febrero 2023

González vs. Google

¿Es posible que una compañía se declare incapaz de filtrar contenido que pueda servir para provocar hechos violentos, o ilegales? ¿Debería este caso sentar precedente en relación con la necesidad de abogar por algoritmos verdaderamente “neutrales”?

Por Alejandro Noguera C. - alejandronoguerac@gmail.com

Empezó esta semana en la Corte Suprema de Justicia de los Estados Unidos la discusión de un caso que, en criterio de algunos, podría definir el futuro del internet y de las redes sociales como los hemos conocido hasta hoy. El caso se origina en la muerte desafortunada de una persona a manos del Estado Islámico (EI), que en concepto de la familia de la víctima fue provocada, entre otras razones, por el contenido promocional alusivo a este grupo terrorista difundido a través de YouTube.

El argumento de la familia en contra de Google consiste en que, por culpa de la falta de control sobre los algoritmos que permiten la reproducción de contenido en redes sociales se producen hechos lamentables, como el que terminó con la pérdida de su hija. Por su parte, la defensa de Google radica en que, al amparo de la Sección 230 del Communications Decency Act, la compañía no puede hacerse responsable por el contenido publicado por un usuario y difundido por un algoritmo.

El análisis del caso resulta interesante por la cantidad de complejidades tecnológicas, éticas y legales asociadas a él: en el mundo de la Inteligencia Artificial, ¿Es posible que una compañía se declare incapaz de filtrar contenido que pueda servir para provocar hechos violentos, o ilegales? ¿Debería este caso sentar precedente en relación con la necesidad de abogar por algoritmos verdaderamente “neutrales”, o sería suficiente con endurecer la regulación para obligar a las compañías a asumir, en el control de los contenidos publicables, un deber fiduciario con la sociedad? ¿Podría, o debería la Corte pronunciarse de fondo sobre este tema, o será el Congreso el llamado a modificar los planteamientos de la Sección 230? ¿Qué papel tenemos los seres humanos en establecer una distancia con la información que se nos ofrece a diario a través de nuestros dispositivos personales?

Expertos en la materia argumentan que lo más probable es que, en su fallo, la Corte no asuma una posición demasiado radical en relación con la modificación del estatuto. Más que el sentido del fallo, considero que lo verdaderamente importante será conocer la opinión de nueve jueces de corrientes ideológicas tan variadas, que, como en los casos trascendentales que han llegado en el pasado para su análisis, puede definir la orientación política de los desarrollos tecnológicos actuales y futuros. El fondo de esta discusión tendría que contribuir, también, con el propósito de establecer una posición mejor sustentada en términos de los límites de la tecnológía para favorecer el mejor o peor desarrollo de la sociedad.

Ni la responsabilidad de una compañía tecnológica debería ser tan superficial como para que se le exima de ejercer un escrutinio esencial sobre el contenido que permite publicar, ni el ser humano puede ser eximido de su responsabilidad primaria de definir con criterio el nivel de influencia que le da al contenido que consume sobre sus decisiones. El papel de la educación en fortalecer el entendimiento sobre el funcionamiento de las plataformas tecnológicas, y sobre todo en la formación del criterio y el carácter para su mejor uso, resultarán fundamentales en el desarrollo de estas discusiones.

Si quiere más información:

.