Pensar en tiempos de algoritmos.
Estamos intentado responder al reto que nos han lanzado de hacer filosofía en tiempos de algoritmos. Proponemos una formulación todavía más sencilla: hacemos frente a la dificultad de pensar, de pensar en nuestros tiempos.
Consideramos que es preciso discernir el pensamiento de un uso de la racionalidad - también humano, claro está - que se limita a categorizar, representar, hacer dominable, diseñar estrategias…, lo que, en filosofía, viene denominándose la “racionalidad instrumental”. Siendo todavía deudoras de una cierta intuición ilustrada, reivindicamos un uso del pensamiento humano que permite escoger, evaluar e imaginar los fines, los horizontes deseables, hacia los cuales orientar nuestra acción y, por ende, toda nuestra capacidad estratégica, instrumental, seriada, procedimentalizada. Nuestro reto reside en la dificultad de distinguir estas dos formas de racionalidad - la práctica y la pura, diría Kant. Por ello, la hegemonía del pensamiento procedimental amenaza con malograr nuestra capacidad reflexiva, crítica y deliberativa a la que debería servir (1). Como acto de resistencia, quisiéramos proponer un ejercicio reflexivo sobre una de las tecnologías que parecen aunar la dimensión mecánica y, a la vez, el aspecto creativo del ser humano: la inteligencia artificial. La capacidad inventiva, propositiva, improvisatoria, que están desarrollando ciertas IAs las lleva más allá de aquello para lo que estaban programadas y parece que, a partir de cierto punto, se hace prescindibles los seres humanos que deberían, en principio, dar dirección a esas herramientas, programar su uso y sus limitar sus efectos.
Esta cuestión nos conecta con una reflexión muy propia del pensamiento contemporáneo que conocemos bajo diferentes nombres; entre ellos, la “era de la técnica”. La crítica a la hegemonía de la racionalidad instrumental ocupó a grandes mentes del siglo pasado: desde Theodor Adorno (2) hasta Martin Heidegger (3) o Jan Patocka (4), entre otros (5). Estas voces se empeñaron en señalar la independencia que ganan las obras sobre sus autores, especialmente la lógica mecánica que imponen a los individuos que les dieron a luz: el mercado que nos convierte en mercancías, los estados que nos reducen a números de estadísticas, las leyes que niegan el estatus de persona a ciertos individuos, el mundo universitario impone una lógica de producción constante y de competitividad que dificulta el pensamiento mismo en el seno de lo que debería ser su cuna, etc. Sin embargo, dejaremos de lado esta deriva, vastamente recorrida, para atender a un fenómeno nuevo entre nuestras invenciones: la creatividad de la inteligencia artificial.
Como dice Marcus du Satoy (6), matemático en Oxford y gran entusiasta de la IA, hacía ya décadas que las máquinas nos habían superado a nivel de cálculo, de almacenamiento de información o de análisis de datos. Sin embargo, teníamos todavía la ilusión de que la creatividad era aquello que nunca nos podrían sonsacar, que definía lo humano, y la atesorábamos como aquello que nos hacía mejores que las máquinas. En los últimos años, hemos tenido que presenciar con estupefacción que ellas también podían ser creativas, que eran capaces de reinventarse y de aprender, de generar imágenes, textos, sonidos, estrategias en juegos competitivos…, superando su programación inicial.
Más allá de la crisis de autoestima que este desarrollo tecnológico pueda suponer, nos ocupamos de ello porque sus efectos son problemáticos a nivel ético, político y social. La huelga de guionistas de cine en Estados Unidos es una buena muestra de la actualidad de la cuestión (7). Entre otros motivos de precariedad, este movimiento protesta ante la sustitución de la creatividad humana por la creatividad de la inteligencia artificial, que ahorra gran parte del proceso intelectual y artesanal de toda creación desempeñada por personas. Por ejemplo, las grandes productoras compran únicamente una idea - desatendiendo toda la vida, estudios, experiencia y reflexión que permiten llegar a ella - y se la lanzan a las máquinas para que desarrollen guiones, propuestas de series, escenas de cine…, todo ello desde un cuidadoso encaje con las tendencias de consumo del mercado audiovisual para conseguir mayores índices de audiencia.
Pero la industria cinematográfica no es ni de lejos el único lugar donde se está aprovechando la capacidad creativa de las máquinas. También se están utilizando en el diseño gráfico (8), en la escritura de textos (9)- y, por ende, de exámenes y trabajos académicos de todo tipo -, en los procesos de contratación de personal, en la policía y en los hospitales, para nombrar solo algunos de sus aplicaciones. Dichos usos pueden y deben ser objeto de diversas disciplinas: tienen que ser considerados desde las leyes, la sociología, la ciencia, la política… Por nuestra parte, procuramos esbozar un marco ético para esas nuevas tecnologías. Como dice Pau García, creativo, investigador y usuario de la IA, “lo que dicen todas estas plataformas [IA para creación de imágenes] es que lo que hacen no es ilegal, y no lo es. El tema no es si es legal, sino si es ético”(10). Efectivamente, nos interesa tomar un punto de vista que permita que la legalidad o la aplicación actual de las IA pueda ser objeto de crítica, de reinvención y de reapropiación. Queremos preguntarnos si tenemos algo que decir ante la legalidad existente, el mercado existente, la tecnología existente. Nos importa volver a poner las herramientas que inventamos - tanto la IA como las leyes - al servicio de objetivos colectivos que vemos que convienen, que ayudan a proteger la vida, que podamos remitir a la humanidad en vez de ser amenazados por nuevos engendros.
Pese al tono cauto que sobrevuela este tecto, la crítica no equivale a la demonización de aquello que nos parece imprevisible, nuevo o arriesgado. En otras palabras, no tenemos un rechazo a la tecnología per se, puesto que dicho dogmatismo estaría obviando mucho de lo que debemos a la técnica: no olvidemos que la escritura o los medicamentos son, también, resultados de la experimentación tecnológica de la humanidad. De hecho, los nuevos desarrollos de la IA nos brindan una oportunidad sin igual para repensar los modelos de creatividad humana. Arrasando con los pecios del ideal del artista, creador y autor genial (11) que expresaba una individualidad incomparable a través de su arte, la IA se suma a las filas del esfuerzo creativo para ser un actor más de un trabajo coral, colectivo (12). Nos empuja, entre otras cosas, a desmitificar la creatividad y aligerar la mayor parte del trabajo creativo de “transpiración” (de copia, estudio, recolección de referentes, etc) y gozar de la pequeña dosis de inspiración que requiere, automatizando gran parte de dicho proceso. Al agilizar la parte más penosa de la creación, la democratiza, porque permite que personas sin talentos técnicos puedan explotar su potencial creativo (13). Incluso se confía que la colaboración entre artistas e IA permite avivar nuestra propia creatividad. Como explora el pianista Bernard Lubat en su diálogo con una IA que había aprendido su estilo y fraseo, las improvisaciones que propone la máquina le llevan más allá de las fórmulas exitosas del pasado que habían acabado por encorsetarlo (14).
No obstante, eso no es todo. Recuperando el tono de prudencia que iniciaba nuestra reflexión, nos nutrimos de las observaciones de Jorge Carrión (15). Él estudia los usos de los algoritmos en la industria cultural, aquellos que programan nuestro consumo de música en Spotify, que deciden los tweets, los posts y los reels que nos aparecen en las redes sociales y nos proponen vídeos en Youtube. No solo eso: en Netflix, la ingente cantidad de información del consumo audiovisual permite que, a nivel de producción, se descarten los proyectos en función de la previsión del éxito de audiencia y, incluso en medio de un proceso creativo en marcha, marcan la línea que debe seguirse, lo que se debe mostrar u ocultar, en función del abandono o seguimiento que se estime (16). Ante esta realidad, Carrión nos habla de un “efecto boomerang” o fenómeno de “domesticación mutua” que caracteriza el uso de algoritmos en la cultura: a la vez que creativos, devienen prescriptivos. Entre sus efectos, destacamos el empobrecimiento de nuestros gustos y del panorama cultural que nos ofrecen, que condena el efecto interruptivo del arte, la variedad y la transformación de nuestra apreciación artística al limitarnos a lo que ya reconocemos, ya disfrutamos, ya nos satisface. Además, en su talento por mantenernos entretenidos sin descanso, se debilita nuestra capacidad atencional. Como denuncia Helena Matute, psicóloga e investigadora, los más vulnerables a la adicción a las pantallas son los niños y niñas, que caen en las garras de mecanismos ingeniados por los mejores psicólogos e ingenieros - contratados a su vez por las compañías más poderosas - para mantenernos enganchados, consumiendo sin pausa. Así pues, nuestro consumo se convierte en nuestra jaula, sin interrupciones significativas.
Si miramos más allá de los ámbitos creativos y nos adentramos por completo en la dimensión ético-política de la IA, encontramos más motivos de cautela. Como explica Matute con gran claridad, resulta que el uso creativo, predictivo, propositivo de dichas máquinas carga sesgos, los mismos que encuentran en las bases de datos que las alimentan - de la que “aprenden” (17).
Así pues, se ha observado cómo la IA que gestionaba perfiles en Twitter intervenía con comentarios racistas porque son los que generan más actividad en las redes. Asimismo, en los procesos de contratación de personal, los currículums de mujeres se desestimaban ante equivalentes de hombres. Y, en la adjudicación de hipotecas, se reforzaban prejuicios injustificados, como que alguien con bigote y gafas era neurótico y extrovertido, o que debían priorizarse las personas con más likes en sus perfiles públicos (18). He aquí la pertinencia de la regulación que propone Helena Matute que, en una observación llena de sensatez, señala que de la misma manera que cuando se inventó el automóvil o la energía atómica se inventaron reglas, no se puede dejar una innovación sin regular - todavía más si se puede generar en el garaje de tu casa, como en el caso que nos ocupa. Y, en este sentido, se podrán dirimir usos pertinentes de la IA, como el servicio de diagnóstico rápido en urgencias. Igualmente, se establecerían los controles y evaluaciones frecuentes necesarios para identificar los sesgos que se están reproduciendo constantemente. La solución, para Matute, requiere que la sociedad exija transparencia y seguimiento, que se expongan los códigos de los algoritmos para que se sepa qué criterios se están escogiendo y cómo van cambiando a medida que los algoritmos aprenden. En esta línea, parece haber esperanza: gracias a las protestas con la irrupción de la IA en el ámbito creativo, se está elaborando una ley europea para regular el uso de la inteligencia artificial. Pau García (19) explica que este reglamento incluirá prohibiciones de toda práctica de IA que contradiga los derechos humanos, como los sistemas mencionados que evalúan la fiabilidad de las personas por parte de bancos, compañías de seguros, aerolíneas, etc. Además, se requerirá que se informe siempre que se esté interactuando con imágenes, sonidos, vídeos…, generados por IA. También se restringirá - o quizás prohibirá por completo - el reconocimiento facial en espacios públicos. Y esa ley marcará la referencia para otros países como Estados Unidos y China, que ya están multando plagios sin consentimiento en el uso de la inteligencia artificial.
Llegados a este punto, tiene sentido clarificar el papel que pueden ejercer las humanidades y las ciencias sociales ante las innovaciones tecnológicas. Al inicio, evocábamos la desorientación ante la inercia propia que toman nuestras creaciones en la era de la técnica. Así pues, su primera función consiste en aportar cierta claridad, saliendo de la confusión gracias a poner palabras a las problemáticas, retos y oportunidades de nuestra situación. La segunda orientación la tomamos de Helena Matute, que nos conmina a tener en cuenta el contexto en el que nos encontramos: sabiendo que las empresas más poderosas del mundo estarán publicitando la IA y lucrándose con ella, se resiste a ser una voz más que loe las virtudes y promesas de este mecanismo. Por eso ejerce y anima a una posición crítica entre la ciudadanía. Y, más allá de la precaución, Rosi Braidotti, la renombrada filósofa feminista, aplana el camino para una relación propositiva con la tecnología. Por un lado, propone desplazar el paradigma moderno del dominio y la soberanía para abrazar una visión cooperativa entre la vida, humana y no-humana, y la técnica: “No estoy segura de que “control” sea a lo que los humanos debamos aspirar de forma prioritaria. ¿Por qué no poner el objetivo en la cooperación? ¿En la coexistencia? ¿En el desarrollo de relaciones mutuamente beneficiosas con nuestro entorno social, ambiental y afectivo?” (20). Sin caer en la ingenuidad, coincide con Matute en la necesidad de enmarcar la reflexión sobre la IA en el seno de una crítica al capital, a la lógica de consumo y a la distribución del poder asociado a las nuevas tecnologías. Propone, por un lado, tomar distancia de esas lógicas (“Debemos desintoxicarnos de los malos hábitos de consumo, de pensamiento y de relación con los otros” (21) y, por otro, generar y celebrar espacios de reflexión que permitan responsabilizarnos del mundo que creamos en vez de saturarnos con el miedo, la nostalgia o la euforia acrítica. Acabamos nuestra reflexión con unas palabras de Braidotti para no abandonar el ejercicio reflexivo en el que hemos querido participar:
Propongo crear valores afirmativos y hacerlo juntos. En otras palabras, necesitamos discutir los problemas conjuntamente. La actitud optimista de negar los problemas es inútil, no tiene sentido. Los problemas son reales, pero son solo una parte de la foto. Debemos analizarlos conjuntamente y con calma. Y eso es exactamente lo que la situación política actual no permite: un poco de calma para discutir sobre los distintos retos que tenemos, en lugar de polarizarlo todo. Hoy todo es a favor o en contra, muerte y destrucción o evolución extraordinaria. Es como si no pudiéramos encontrar el término medio, y es muy peligroso no tener un término medio en momentos como el actual. Para mí, afirmar es crear relaciones que permitan tener estas discusiones [...]. No nos dejemos bloquear por el miedo, no nos dejemos bloquear por la nostalgia (22).
Notas:
1 Adela Cortina, Ética mínima, 80.
2 Theodor Adorno y Max Horkheimer, Dialéctica de la Ilustración.
3 Martin Heidegger, «La pregunta por la técnica».
4 Jan Patocka, Ensayos heréticos sobre la filosofía de la historia.
5 Esquirol, El respeto o la mirada atenta i Los filósofos contemporáneos y la técnica.
6 Marcus du Sautoy, The Creativity Code: Art and Innovation in the Age of AI.
7 BBC: “La huelga de guionistas que paraliza Hollywood”.
8 Pau García, “A quick guide to Artificial Intelligence for data designers and curious minds”.
9 Col·lectiu Estampa. Como muestra, ver “Escriure amb intel·ligència artificial”.
10 Pau García, “The Great Generative AI Debate: To Use or Abuse?”.
11 Marcus du Sautoy, “Creativitat artificial”.
12 Reflexiones colindantes, tanto estéticas como legales y económicas: qué es el arte y a quién pertenece (propiedad de la obra de arte que surge de la IA.
13 Pau García, “A quick guide to Artificial Intelligence for data designers and curious minds”. 14 European Science-Media Hub, “Artificial intelligence starts to hit the right note”. 15 Elena Neira y Jorge Carrión, “Netflix i la dissecció dels algoritmes culturals”. 16 Elena Neira y Jorge Carrión, “Netflix i la dissecció dels algoritmes culturals”.
17 Helena Matute, “Els biaixos de la intel·ligència artificial”.
18 Helena Matute, “Els biaixos de la intel·ligència artificial”.
19 Pau García, “The Great Generative AI Debate: To Use or Abuse?”.
20 Rosi Braidotti, “El futuro es ahora”.
21 Rosi Braidotti, “Necesitamos una transformación radical, siguiendo las bases del feminismo, el antirracismo y el antifascismo”: “Creo que hay formas de desvincularnos y de tomar distancia de estos modelos equivocados de consumo. Tenemos que darnos cuenta de que, contrariamente a la idea marxista-leninista de una revolución global, los cambios que podemos conseguir son colectivos, pero paso a paso, tomando distancia. Fijémonos en cómo el feminismo nos ha enseñado a distanciarnos de la violencia masculina. O en cómo el antirracismo nos ha enseñado a distanciarnos del supremacismo blanco. Se trata de distanciarse. Es como un ejercicio de desintoxicación. Debemos desintoxicarnos de los malos hábitos de consumo, de pensamiento y de relación con los otros.”
22 Rosi Braidotti, “Necesitamos una transformación radical, siguiendo las bases del feminismo, el antirracismo y el antifascismo”.
Bibliografía:
- Adorno, Theodor y Horkeimer, Max. Dialéctica de la Ilustración.
- BBC: “La huelga de guionistas que paraliza Hollywood”,
https://www.bbc.com/mundo/noticias-65462469
- Braidotti, Rosi. “Necesitamos una transformación radical, siguiendo las bases del feminismo, el antirracismo y el antifascismo”.
https://lab.cccb.org/es/rosi-braidotti-necesitamos-una-transformacion-radical-siguiend o-las-bases-del-feminismo-el-antirracismo-y-el-antifascismo/
- “El futuro es ahora”.
https://telos.fundaciontelefonica.com/rosi-braidotti-el-futuro-es-ahora-libro-por -una-politica-afirmativa-itinerarios-eticos-gedisa/
- Col·lectiu Estampa, “Escriure amb intel·ligència artificial”, CCCB.
https://www.cccb.org/ca/multimedia/videos/collectiu-estampa-i-ines-macpherson/240 207.
- Cortina, Adela. Ética mínima.
- Du Sautoy, Marcus. The Creativity Code: Art and Innovation in the Age of AI - “Creativitat artificial”.
https://www.cccb.org/ca/multimedia/videos/marcus-du-sautoy-i-karina-gibert/2 40112
- Esquirol, Josep Maria. El respeto o la mirada atenta
- Los filósofos contemporáneos y la técnica
- European Science-Media Hub, “Artificial intelligence starts to hit the right note”. https://sciencemediahub.eu/2022/08/31/ai-starts-to-hit-the-right-note/
- García, Pau. “A quick guide to Artificial Intelligence for data designers and curious minds”.
https://domesticdatastreamers.medium.com/a-quick-artificial-intelligence-tooguide-for -designers-and-data-designers-c99fe643c102
- “The Great Generative AI Debate: To Use or Abuse?”,
https://domesticdatastreamers.medium.com/the-great-ai-art-legal-debate-to-u se-or-abuse-ebfdd24a0a39
- Heidegger, Martin. “La pregunta por la técnica”.
- Matute, Helena. “Els biaixos de la intel·ligència artificial”.
https://www.cccb.org/ca/multimedia/videos/helena-matute/240601
- Neira, Elena y Carrión, Jorge. “Netflix i la dissecció dels algoritmes culturals”. https://www.cccb.org/ca/multimedia/videos/elena-neira-i-jorge-carrion/240107 - Patocka, Jan. Ensayos heréticos sobre la filosofía de la historia.
Aun no hay comentarios, sé el primero en escribir uno!
