Qué es la ley de las consecuencias imprevistas (y por qué importa tanto ahora)

Cuando los pioneros de las redes sociales las crearon, lo hicieron con la ilusión de abrir espacios para que las personas y las comunidades se conectaran. Pronto se dieron cuenta de que no todos los intercambios serían amables, pero eso no era tremendamente inesperado, dada la naturaleza humana. Lo que difícilmente habrían podido predecir es que en cuestión de unos años las redes se convertirían en sofisticadas herramientas para ajustar el curso de la democracia a gusto de una tendencia u otra. O que los mandatarios se escudarían tras ellas alegando que por esos medios se comunicaban directamente con los gobernados, negándoles así el derecho a cuestionarlos.

Y es que toda innovación, en cualquier campo, trae consigo consecuencias imprevistas, a veces positivas; otras, negativas, y a menudo sorprendentes. Es un fenómeno que observadores sociales de diferentes disciplinas notaron desde la antigüedad. El filósofo Platón, por ejemplo, lo ilustró bellamente en el diálogo “Fedro”. En él, Sócrates cuenta que cuando el dios de Egipto Teut -quien había inventado, entre otras cosas, las letras- fue a mostrarle al rey Tamus todas sus obras, éste le pidió que explicara cuán útiles eran.

Cuando llegaron a la escritura dijo Teut: “¡Oh rey! Esta invención hará a los egipcios más sabios y servirá a su memoria; descubrí un remedio contra la dificultad de aprender y retener”. El rey le respondió que el genio inventor no es el mejor juez, y que, respecto a la escritura, le estaba atribuyendo “todo lo contrario de sus efectos verdaderos”.

“Sólo producirá el olvido en las almas de los que la conozcan, haciéndoles despreciar sus recuerdos; confiarán en los escritos externos y no recordarán por sí mismos. Lo que descubriste no es una ayuda para la memoria, sino para la reminiscencia; y no les das a tus discípulos la verdad, sino sólo la apariencia de la verdad; serán oidores de muchas cosas y nada habrán aprendido; parecerán omniscientes y generalmente no sabrán nada; serán una compañía tediosa, teniendo la apariencia de la sabiduría sin la realidad””, replicó.

Para Platón, el saber verdadero se lograba a través del diálogo socrático: la búsqueda de respuestas mediante el esfuerzo de reflexión y razonamiento. Aunque no concuerdes con su opinión sobre la escritura, el relato muestra cómo hasta las tecnologías más preciadas pueden traer consecuencias imprevistas.

Adam Smith, considerado el padre de la economía moderna, le dio el nombre de “la mano invisible” a una de las más famosas de ellas. El filósofo escocés del siglo XVIII sostuvo que cada individuo que busca sólo su propio beneficio “es conducido por una mano invisible a promover un fin que no era parte de su intención”, generando beneficios generalizados.

Varios pensadores discurrieron sobre la que ahora se denomina “la ley de las consecuencias no anticipadas”, pero fue el sociólogo estadounidense Robert K. Merton quien, en 1936, publicó el primer análisis del concepto.

De la bicicleta a Marx

Merton comienza su influyente artículo “Las consecuencias imprevistas de la acción social intencionada” comentando que hasta ese momento no se había hecho un análisis científico sistemático del tema. Supone que quizás se debía a que durante la mayor parte de la historia humana se le había atribuido lo inesperado a “los dioses”, al “destino” o a la interferencia divina. Con la Era de la Razón, comenzamos a creer que se podía entender la vida.

En su estudio, Merton identificó 5 causas principales de esos desenlaces inesperados. El desconocimiento es la primera: son imprevistas, así que, en algunos casos, por más que se quisiera habría sido muy difícil adivinar que sucedería lo que ocurrió. Quienes desarrollaron la bicicleta moderna entre las décadas de 1880 y 1890 no estaban planeando crear un vehículo de la liberación de las mujeres. No sólo impulsó el uso de “ropa racional” sino que tuvo un profundo impacto en los derechos y roles de las mujeres en la sociedad.

“Déjame decirte lo que pienso sobre andar en bicicleta”, dijo en una entrevista de 1896 la sufragista Susan B. Anthony. Y agregó: “Creo que ha hecho más por emancipar a las mujeres que cualquier otra cosa en el mundo. Le da a la mujer una sensación de libertad y autosuficiencia. La hace sentir como si fuera independiente (...) y se va, la imagen de una feminidad libre y sin restricciones”.

Como éste, una miríada de ejemplos demuestran que, escribió Merton, “la limitación más obvia para una anticipación correcta de las consecuencias de una acción la proporciona el estado de conocimiento existente”. Lo que, entre otras, llevaba en ocasiones a algunos a “sostener el argumento que dice en efecto: ‘si hubiéramos sabido, lo habríamos sabido’”, añadió.

La segunda de las causas principales era el error: a veces el análisis falla o se repiten acciones que tuvieron éxito en el pasado en situaciones nuevas, sin repensarlas. La imperiosa inmediatez del interés, que lleva a descuidar la consideración de consecuencias a largo plazo pues la preocupación primordial son los efectos próximos previstos, es la tercera causa.

La cuarta es “superficialmente similar al factor de inmediatez”, pero significativamente diferente: los valores básicos. Estos nos pueden llevar a actuar de acuerdo a creencias fundamentales sin considerar las consecuencias. Merton citó el caso de la ética protestante y el espíritu del capitalismo para ilustrar este punto. Las normas morales protestantes del trabajo duro y el ascetismo “paradójicamente conducen a su propia decadencia a través de la acumulación de riqueza y posesiones”.

Y, finalmente, una causa que suena esotérica: la profecía autodestructiva, en la que no se actúa por temor a consecuencias negativas e imprevistas, o se advierte de un problema futuro, y eso lleva a que no suceda. “Para tomar un ejemplo social concreto”, señaló Merton, “la predicción de Karl Marx sobre la progresiva concentración de la riqueza y la creciente miseria de las masas influyó en el proceso mismo predicho”.

“Al menos una de las consecuencias de la predicación socialista en el siglo XIX fue la expansión de la organización del trabajo, que (...) ralentizó, si no eliminó, los acontecimientos que Marx había predicho”, aseveró.

En su libro “Lógica del azar”, el matemático y filósofo John Venn utilizó el pintoresco término “profecías suicidas” para nombrar esta quinta causa principal de consecuencias imprevistas. Con el tiempo, otros pensadores añadieron otras, como el economista Kenneth Arrow, quien contribuyó con una advertencia: “la mayoría de las personas subestiman la incertidumbre del mundo”. Merton además clasificó 3 tipos de consecuencias no anticipadas:

• Beneficios imprevistos, como los muchos casos de descubrimientos científicos fortuitos;
• Inconvenientes inesperados, en los que quizás se logre lo que se quería, pero acompañado de aspectos negativos;
• Eectos perversos, que resultan en lo contrario de lo que se pretendía.

¿Por qué importa tanto ahora?

Porque estamos en el umbral de una nueva fase para la humanidad, probablemente una de las más significativa de todas. La rápida aparición de una nueva generación de sistemas de inteligencia artificial que pueden emitir juicios y decisiones y generar ideas es uno de los mayores desafíos de la sociedad.

La inteligencia artificial es un enorme salto a lo desconocido en diferentes áreas de nuestras vidas, desde la salud hasta la educación, desde el ejército hasta el derecho, desde las artes hasta el transporte. Cambiará nuestras vidas de maneras que aún no podemos imaginar. Pero no podemos darnos el lujo de no hacerlo, pues detrás de la emocionante innovación y el entusiasmo por la IA hay preguntas fundamentales que debemos hacernos a nosotros mismos, a los líderes tecnológicos y a nuestros gobernantes desde ya.

“Cuando se trata de la IA, hay muchos que lo ven como algo mágico, o piensan que habrá una batalla inminente entre humanos y robots, y el tipo de preguntas son como de ciencia ficción: ‘¿se puede confiar en un robot?’”, expresó al programa The Trust Shift de la BBC Jack Stilgoe, profesor en el University College de Londres, y parte de un nuevo programa gigante de investigación en Reino Unido llamado Responsible AI o RAI (IA responsable).

“Como científico social, quiero llamar la atención sobre el hecho de que realmente no es cuestión de si confiamos en un robot sino de si confiamos en las personas detrás de las tecnologías”, dijo. Son esos empresarios e innovadores de IA los que tienen el poder de darle forma radicalmente a nuestro futuro. Pero somos todos, en mayor y menor medida, los que debemos participar en la toma de decisiones hoy.

Los sistemas de inteligencia artificial se entrenan con grandes cantidades de información y aprenden a identificar los patrones que contiene para realizar tareas. Las aplicaciones parecen infinitas y ya están desde ayudando a los médicos a detectar cánceres de mama hasta decidiendo qué mostrarnos en las redes sociales o recomendarnos qué comprar. Lo que vimos hasta ahora es la punta del iceberg; sin embargo, a casi cada paso, además de maravillas se han evidenciado los peligros, así como la dificultad para combatirlos.

Toma la IA generativa, aquella que, como ChatGPT y DALL-E, genera textos o imágenes que parecen haber sido creados por humanos: tiene una legión de adeptos. Pero entre ellos se cuentan creadores de contenido de abuso sexual infantil quienes multiplican sus ganancias sin que las autoridades puedan hacer mucho al respecto.

¿Una consecuencia imprevista? Quizás, pero la pregunta es de qué tipo, pues si es por error o por la imperiosa necesidad del interés, son difíciles de excusar. Es por eso que, aunque los avances recientes en IA fueron aclamados como revolucionarios, incluso grandes personalidades como Elon Musk abogaron por una pausa en su desarrollo.

Temores similares han llevado a dos de los tres científicos conocidos como los padrinos de la IA por su investigación pionera, Geoffrey Hinton y Yoshua Bengio, a pronunciarse en ese sentido. A Stilgoe, quien como investigador de RAI se enfoca en cómo debemos dar forma al desarrollo de la IA en beneficio de las personas, las comunidades y la sociedad, le preocupa “el interés de quienes desarrollan la tecnología en no anticipar las consecuencias”.

En su afán por monetizar sus creaciones, “la gente de IA desarrolla sus sistemas y los lanza al mundo, y luego depende de la sociedad averiguar cuáles son las consecuencias y lidiar con ellas. Hay una asimetría masiva pues dejamos a los innovadores libres de responsabilidad”.

El científico social afirma que hay casos en los que la IA tiene claramente beneficios, pero opina que debe desarrollarse en el contexto de instituciones confiables, que estén interesadas “no sólo en lo que es bueno para un individuo sino para la sociedad en general”. Así, habrá posibilidades de que “la IA no sólo sea efectiva, sino también justa”. Pues, como nos advirtió Platón sobre la escritura, cualquier tecnología, por maravillosa que sea, tiene sus bemoles.

Según la BBC. Cuatro cosas que distinguen a la UBA, una de las mejores universidades de América Latina y que ahora enfrenta fuertes recortes

Huw Edwards. Renunció el presentador de la BBC acusado de haberle pagado a un menor de edad por fotos explícitas

Sobre el caso Epstein. El “miedo” de Gillian Anderson por interpretar a la periodista que entrevistó al príncipe Andrés