Es reconocido por sus planteamientos en torno a la historia global y el futuro de la humanidad. ROLLING STONE en Español estuvo presente en una reciente rueda de prensa en la que —ante preguntas formuladas por periodistas de toda Iberoamérica— reflexionó sobre la inteligencia artificial, los medios de comunicación y las redes sociales, la verdad, la filosofía y la democracia
Traducción: Francesca Quintero
Lo que hace distinta, y más riesgosa, la revolución tecnológica que surge con la inteligencia artificial (IA)
En el negocio del periodismo, las decisiones más importantes en un periódico son siempre las del editor. Puedes escribir la historia que quieras, pero al final es el editor quien decide qué poner en la portada del periódico. Ahora, en algunas de las plataformas de medios más importantes del mundo, como Twitter, como Facebook, el papel del editor ha sido asumido por una IA, sus algoritmos deciden cuál será la historia recomendada. […] Una bomba atómica no podría producir una bomba de hidrógeno, una bomba más poderosa, pero la IA puede producir nuevas cosas por sí misma. Empieza por cosas pequeñas, produce imágenes y textos, y escribe código informático, pero en última instancia podría crear una IA más poderosa. Eso podría conducir a un tipo de explosión que estaría fuera de nuestro control”.
“La IA es diferente de cualquier tecnología previa, porque no es una herramienta, es un agente, un agente independiente. Si pensamos en las armas nucleares, la bomba atómica tiene un inmenso poder destructivo, pero, aun así, el poder está en manos humanas, son los seres humanos los que deciden si usan la bomba y dónde, y son los seres humanos los que la desarrollaron. […] La IA es diferente, puede tomar decisiones por sí misma.
Esta, que se supone es “la sociedad de la información”, parece ser una sociedad cada vez más ignorante
“No es una contradicción, porque lo más importante que hay que saber es que la información no es la verdad, no es conocimiento. La juventud ingenua que domina lugares como Silicon Valley sostiene erróneamente que la información es la verdad, de modo que, si inundamos la sociedad con más información, la gente se vuelve más informada, sabe más, pero la mayor parte de la información en el mundo es basura, la mayor parte de la información no es la verdad, la verdad es una categoría inusual de información; la verdad es costosa.
Para informar de forma correcta y veraz hay que invertir tiempo, dinero, esfuerzo… Para escribir una mentira no necesitas invertir nada, simplemente escribes lo primero que se te viene a la mente. Por lo tanto, la verdad cuesta, la verdad suele ser complicada, porque la realidad es complicada, mientras que la ficción se puede simplificar tanto como se quiera, y la gente suele preferir las historias más sencillas a las complicadas, y la verdad también suele ser dolorosa. Hay muchas cosas que no nos gusta saber sobre nosotros mismos, sobre nuestros países, mientras que la ficción puede ser tan halagadora como uno quiera.
Hemos inundado el mundo de información, pero ante la expectativa de que si inundas el mundo con información la verdad flotaría a la superficie, no; se hunde hasta el fondo.
Si queremos que la verdad prevalezca, tenemos que invertir en ella, tenemos que, por ejemplo, crear instituciones como periódicos o sociedades académicas que inviertan en este esfuerzo de descubrir y difundir la verdad. Y esto es responsabilidad de las sociedades de hoy en día para resistir lo que se oye de gente como Elon Musk.
[…] Si no se hace el costoso esfuerzo de descubrir y difundir la verdad, esta quedará inundada, enterrada bajo toda esta información basura”.
Los relatos creados por la humanidad vs. los relatos creados por la inteligencia artificial
“El desarrollo más reciente de la IA es la capacidad de crear historias, algo que antes no tenía. Si nos remontamos unos años atrás y nos fijamos en las redes sociales, las IA ya estaban allí controlando la conversación, decidiendo lo que llama la atención, lo que aparece en el inicio de Facebook, o lo que está recibiendo el mayor tráfico en Twitter, pero las IA no podían escribir el contenido, no podían escribir buenos textos, no podían crear música o imágenes. Ahora la nueva generación de IA es capaz de hacer eso, y sé que mucha gente dice: ‘¡Sí! Escriben textos, pero no son muy buenos. Escriben música, pero no es muy buena. Crean videos e imágenes, pero tienen todos estos errores como personas con seis dedos’. Pero entiendan que estos son solo los primeros pasos de la revolución de la IA, la revolución de la IA tiene básicamente 10 años, todavía está dando los primeros pasos de bebé, todavía no hemos visto nada.
[…] Las IA de hoy son solo amebas, inteligencias artificiales muy simples. Las amebas tardaron miles de millones de años en evolucionar a dinosaurios y mamíferos y humanos, porque la evolución orgánica es lenta, tarda millones y miles de millones de años. La evolución digital es millones de veces más rápida, no tardará mil millones de años. […] Ahora bien, si ChatGPT es la ameba, ¿cómo crees que sería la IA T-Rex? ¿qué podría hacer?
Si volvemos a pensar en la narración, cuando leo el texto creado por ChatGPT, puedo ver los problemas, pero me sorprende el hecho de que se trata de un texto coherente. Oigo a la gente decir: ‘Oh, no, es solo un autocompletar glorificado’; no lo es, no puede simplemente escribir frases o copiar y pegar frases de aquí para allá, puede crear párrafos enteros e historias y ensayos llenos de errores, pero que tienen sentido. Son realmente historias, ensayos que intenta transmitir algún punto. […] Soy profesor universitario, leo un montón de trabajos escritos por estudiantes y les cuesta escribir un ensayo coherente que transmita un punto conectando diferentes argumentos. La IA también puede hacerlo ahora. ¿Dónde estará dentro de cinco o 10 años? Nadie lo sabe”.
“Ahora mi propio país, Israel, está construyendo exactamente un régimen de vigilancia absoluta en los territorios palestinos ocupados. Cámaras, drones y softwares siguiendo a todo el mundo todo el tiempo”.
La posibilidad de un totalitarismo tecnológico
“No puedo profesar nada, no es algo determinista, depende de las decisiones que tomemos. Pero tenemos que entender que la IA tiene un potencial totalitario como nada que hayamos visto antes en la historia. La diferencia entre los regímenes autoritarios y totalitarios es que los autoritarios controlan la esfera política, controlan el ejército, el presupuesto, pero la mayor parte del tiempo, la gente es abandonada a su suerte. El rey o el tirano no puede saber lo que cada uno de nosotros hace y piensa a cada minuto. Eso es lo que intentan hacer los regímenes totalitarios. Regímenes como los de Stalin en la Unión Soviética, como Hitler en Alemania, no querían controlar solo el ejército y el presupuesto, querían controlar todos los aspectos de la vida, la totalidad de la vida de las personas, cada momento, lo que oyes, lo que ves, lo que dices, con quién te encuentras, qué libros lees… ¡todo!
Antes, incluso Stalin tuvo dificultades, tenía límites para controlar a sus súbditos, porque no podía seguir a todo el mundo todo el tiempo. […] Entonces, incluso en la Unión Soviética hubo cierta medida de privacidad. Ahora, la IA podría hacer posible la creación de regímenes de vigilancia total que aniquilarán la privacidad, ya que en un país de IA no se necesitan agentes humanos para seguir a todas las personas. Tienes teléfonos inteligentes, computadoras, cámaras, software de reconocimiento facial y software de reconocimiento de voz, por lo que es técnicamente posible seguir a todo el mundo todo el tiempo y aniquilar la privacidad. Y tampoco necesitas analistas humanos para revisar toda la información, tienes IA.
Esto es lo que hace la IA. Puede revisar una inmensa cantidad de información, videos, imágenes, textos, audio, y analizarla y reconocer patrones. Y esto ya está ocurriendo en algunos países de todo el mundo. Ahora mi propio país, Israel, está construyendo exactamente un régimen de vigilancia absoluta en los territorios palestinos ocupados.
Cámaras, drones y softwares siguiendo a todo el mundo todo el tiempo. También vemos que ocurre lo mismo en Irán. En Irán, por ejemplo, hay leyes que obligan a las mujeres a cubrirse la cabeza, incluso en su propio carro. Si vas a cualquier parte en tu carro tienes que cubrirte el pelo, si eres una mujer. Ahora bien, todas estas leyes son de 1979, de la revolución de Khomeini, pero el régimen tuvo dificultades para imponerlas porque no se podía poner un policía en cada calle de Irán. También había un problema de fricción entre la población porque a la gente no le gustaba, así que discutían con la policía y le gritaban. Fue difícil.
En los últimos dos o tres años, los iraníes cambiaron a un sistema de inteligencia artificial. Irán está ahora lleno de cámaras de vigilancia con reconocimiento facial, que identifican automáticamente a las mujeres sin la cabeza cubierta, y la autoridad para castigarlas está ahora en manos de la IA. Hay un informe de Amnistía publicado recientemente acerca de eso […] mujeres que conducen en su propio carro sin el hiyab, o pañuelo en la cabeza, y la cámara de reconocimiento facial las identifica: “Esta es una mujer, ella no lleva su velo”, identifica quién es, su nombre, su número de teléfono, e inmediatamente le envía un mensaje de texto diciéndole, por ejemplo, que ella cometió un delito por lo que su coche es incautado, confiscado por el Estado. Tienen que detener el vehículo y bajarse, porque ya no pueden conducir. Esto no es un escenario de ciencia ficción, ni algo que podría suceder dentro de cien años, esto ya ha sucedido, y está sucediendo ahora mismo”.
“Mucha gente confunde democracia con elecciones, pero las elecciones son un mecanismo muy importante dentro de la democracia, por supuesto, pero no son la democracia”.
El papel de la prensa en el fortalecimiento de la democracia y el desafío que la IA representa para los medios de comunicación
“Un periodista tiene un papel extremadamente importante. La democracia es una conversación; en la dictadura una persona lo determina todo.
En una ciudad pequeña, todos podían reunirse en la plaza principal y hablar, pero en un reino grande, era técnicamente imposible mantener una conversación entre millones de personas, la democracia era simplemente imposible, y no conocemos ninguna democracia a gran escala en el mundo premoderno. Una conversación a gran escala solo se hizo posible con el surgimiento de la tecnología de la información moderna, y la primera tecnología de la información moderna crucial fue el periódico, que comienza a surgir en los siglos XVII y XVIII, en lugares como los Países Bajos, e Inglaterra, donde también se ve el surgimiento de las primeras democracias a gran escala en la historia.
La democracia es cuando las personas conversan e intentan llegar a una decisión en común. Hasta la aparición de la prensa moderna, la democracia, al menos a gran escala, era sencillamente imposible. No tenemos ningún ejemplo de democracia a gran escala en el mundo antiguo. Los únicos ejemplos que conocemos son a pequeña escala, ciudades-estado como la antigua Atenas o incluso tribus más pequeñas, porque para mantener una conversación la gente necesita hablar.
Después tenemos más tecnologías de la información, como el telégrafo y la radio y la televisión, y esta es la base de la democracia a gran escala, porque, de nuevo, sin estas tecnologías no hay conversación y sin conversación no hay democracia. Si quitas la base o la cambias, se produce un terremoto en la democracia. Mucha gente confunde democracia con elecciones, pero las elecciones son un mecanismo muy importante dentro de la democracia, por supuesto, pero no son la democracia.
Como acabamos de ver con Venezuela, por ejemplo, se pueden celebrar elecciones y ser manipuladas, y lo sabemos. En Corea del Norte celebran elecciones cada cuatro años y eso no significa que sea una democracia. La esencia de la democracia es esta conversación en la que puedes identificar y corregir errores, incluidos los errores del gobierno. Es una característica muy básica de la democracia, que podemos decir: ‘Oh, cometimos un error, vamos a intentar otra cosa’. En una dictadura no se puede, porque se sabe que Putin nunca admitiría que cometió un error. Nuevamente, en la democracia le das el poder a alguien durante un periodo limitado con la condición de que después devuelva el poder y se pueda volver a tomar una nueva decisión, ya sea reelegir a esa persona o votar por otra. “Oh, cometimos un error, probemos con otra cosa”. Pero, el gran problema de la democracia es también una debilidad muy importante de la misma: ¿qué pasa si le das el poder a alguien y, ahora que lo tiene, no está de acuerdo con devolverlo? Y tiene el poder, por lo que puede hacer muchas cosas como arreglar las elecciones. Y por eso la democracia se protege a sí misma con un sistema de controles y balances, no son solo las elecciones. […] Se necesitan tribunales independientes y medios de comunicación independientes que puedan exponer los errores o las mentiras del gobierno, y que el gobierno no pueda impedirlo. El papel de los medios de comunicación es esencial. Si solo intercambiamos mentiras y fantasías, no es realmente una conversación. Así que este es el papel clave de los medios de comunicación en la preservación de la democracia, y los medios tienen un inmenso poder para destruir o proteger la democracia.
“Las redes sociales deben tener mucho cuidado con la censura, pero el principal problema no es el contenido producido por los usuarios humanos, el principal problema son las decisiones editoriales de los algoritmos”.
Algunos de los más grandes dictadores de la era moderna empezaron como periodistas y editores. Lenin, antes de ser dictador de la Unión Soviética, el único trabajo que tuvo antes fue de editor del periódico Iskra. Y Mussolini empezó como periodista socialista, luego cambio de opinión y fundó un periódico fascista, que se llamaba Avanti!, y este era su trabajo, era editor de su periódico y esta fue su base de poder desde la cual luego se convirtió en dictador de Italia.
Hoy este poder está en manos de los nuevos gigantes de los medios de comunicación, Facebook, Twitter e Instagram, y todos estos, en manos de sus algoritmos. Hay un gran debate sobre la responsabilidad de estos nuevos gigantes, y cada vez que se les acusa de algo apelan a la libertad de expresión, dicen que no quieren censurar a nadie. Esto es justamente el centro de esta enorme polémica en Brasil sobre Twitter, y estoy de acuerdo en que las redes sociales deben tener mucho cuidado con la censura, pero el principal problema no es el contenido producido por los usuarios humanos, el principal problema son las decisiones editoriales de los algoritmos.
Si alguien, un ser humano, publica alguna teoría conspirativa llena de odio en Twitter o Facebook, estoy de acuerdo en que la empresa debe ser muy cuidadosa antes de censurar. […] Si el algoritmo toma esta teoría y decide recomendarla, difundirla, reproducirla automáticamente —por los intereses comerciales de la empresa, ya que atrae más atención—, mantiene a más personas en la plataforma por más tiempo, y por ende la empresa gana más dinero, este es el problema, la decisión editorial del algoritmo corporativo de promover este contenido específico. […] Y es decisión del algoritmo si millones de personas estarán expuestas a noticias falsas o a la verdad, y las empresas deberían ser responsables de las decisiones de sus algoritmos, del mismo modo que hacemos responsables a los directores de los periódicos de sus decisiones editoriales”.
Fake news, censura, regulación
“En general, la gente miente, si vas a la plaza principal de una ciudad, la gente dice todo tipo de cosas, a veces inventan mentiras, a veces inventan fantasías, a veces son presas del engaño. En una democracia tenemos que ser muy cuidadosos antes de empezar a censurar. […] Tal vez no es común decirlo, pero la gente tiene derecho a la estupidez, la gente tiene derecho incluso a decir mentiras. En casos extremos, que la ley define, decir una mentira puede ser un crimen, pero en muchas situaciones la gente miente, y no está bien, pero está protegido por la ley, y es parte de la libertad de expresión, y debemos ser muy cuidadosos al respecto.
Sin embargo, el principal problema ahora con las redes sociales, las noticias falsas y las teorías conspirativas no son las decisiones de los usuarios humanos, que están protegidas por la libertad de expresión, sino las decisiones de los algoritmos corporativos. Los gigantes de las redes sociales basan su modelo de negocio en aumentar la interacción de los usuarios; quieren mantener a más personas por más tiempo en la plataforma.
A medida que la gente pasa más tiempo en YouTube, en Twitter, en TikTok, lo que sea, las empresas venden más publicidad, las empresas recopilan más datos que pueden vender a terceros. Este es su modelo de negocio, así es cómo ganan dinero. […] Para lograr este objetivo, los algoritmos de estas empresas descubrieron que la forma más fácil de mantener a la gente más tiempo en la plataforma, es presionar el botón del odio o el botón del miedo o el botón de la ira en la mente, y deliberadamente difunden noticias falsas y teorías conspirativas que aumentan el odio, el miedo y la ira, ¡porque esto hace que la gente interactúe!
Las personas permanecen más tiempo en la plataforma, comparten enlaces e historias a sus amigos, para que también se enfaden y tengan miedo, o lo que sea. Esto es un problema y la empresa se debería responsabilizar, esto no es libertad de expresión, es una cuestión completamente distinta. […] No le estamos diciendo al editor del New York Times que vaya por ahí censurando gente, no. Pero si el editor decide poner teorías de conspiración en la portada del New York Times, ese es un gran problema y debería responsabilizarse por ello, y es lo mismo con el algoritmo de Facebook o TikTok si decide impulsar y promover deliberadamente algunas noticias falsas o alguna teoría de conspiración.
“Si observamos a estos individuos hambrientos de poder, vemos a personas que están obsesionadas únicamente con ese poder y no les importa en absoluto la verdad; personas como Putin, como Maduro, como Netanyahu, en Israel, no parecen individuos particularmente felices”.
Los radicalismos y el aprovechamiento de estas tecnologías
En muchos países se ve esto de parte de la extrema derecha, pero la extrema izquierda puede hacer lo mismo. Una vez más, si nos fijamos en Venezuela, Chávez y Maduro no vienen de la extrema derecha, y en realidad —y esto es importante e interesante históricamente— este es un lugar donde la extrema derecha y la extrema izquierda se encuentran.
¿Por qué? Porque tanto la extrema derecha como la extrema izquierda comparten una visión muy cínica del mundo, que se basa en que la única realidad es el poder, que al ser humano solo le interesa acumular poder, y que todas las interacciones humanas son luchas de poder.
Hay algo en lo que Donald Trump coincide con Karl Marx, y lo que comparten es una desconfianza muy profunda hacia las instituciones establecidas por la sociedad humana para identificar, garantizar y promover la verdad, que son, ya saben, los medios de comunicación tradicionales, las universidades, la ciencia, los tribunales, y así sucesivamente, los guardianes de la verdad.
Y si vamos a pensadores como Michel Foucault, como Edward Said, o como Karl Marx, oiremos esto de que los periodistas no están realmente interesados en la verdad, que solo están al servicio de los poderosos y difundirán mentiras deliberadamente para servir a los intereses de las élites poderosas, para proteger los privilegios de los poderosos en la sociedad. Esto se oye hoy de Donald Trump, pero también se oye tradicionalmente de la extrema izquierda. Y esta obsesión con que lo único que quieren los humanos es el poder es destructiva para la sociedad, y especialmente para la democracia, porque si no puedes confiar en ninguna institución para que te diga la verdad, entonces todas las instituciones colapsan, y el único régimen que puede sobrevivir en estas condiciones es la dictadura.
La democracia se basa en la confianza, tienes que confiar en alguien, en los periódicos o en los tribunales o en el comité electoral o en el parlamento, tienes que confiar en alguien para que la democracia funcione. La dictadura no necesita confianza, la dictadura se basa en el terror, no en la confianza, así que si destruyes la confianza en todas las instituciones, habrás allanado el camino a la dictadura
Sí, a los humanos nos interesa el poder hasta cierto punto, pero no es lo único que nos interesa. Cada ser humano, si miras en tu interior, notarás que los humanos tenemos un profundo anhelo por la verdad, queremos saber la verdad sobre nosotros mismos, sobre el mundo de la vida, porque en última instancia, sin la verdad nunca podremos ser felices. Si no conoces la verdadera raíz de tus sufrimientos en la vida, siempre serás infeliz.
Y si observamos a estos individuos hambrientos de poder, vemos a personas que están obsesionadas únicamente con ese poder y no les importa en absoluto la verdad; personas como Putin, como Maduro, como Netanyahu, en Israel, no parecen individuos particularmente felices.
[…] Pero la idea de que todo el periodismo es solo una conspiración elitista para manipular a la gente, que toda la ciencia es solo una conspiración para manipular a la gente, es una visión muy cínica que está destruyendo la confianza, destruyendo la democracia, y deberíamos tener mucho cuidado de no adoptarla”.
“No vamos a dejar de desarrollar la IA, y no deberíamos, porque tiene mucho potencial positivo. Lo que decimos las personas que arrojamos luz sobre el lado oscuro de la IA no es que nos detengamos, sino simplemente que se invierta más en que esta tecnología sea segura”.
La IA en beneficio de la humanidad
“La IA tiene un enorme potencial positivo, por eso la estamos desarrollando. No creo que la gente de Silicon Valley sea malvada. La IA puede darnos los mejores servicios de salud en la historia de la humanidad.
Ahora hay escasez de médicos en muchos países, pero cuando tengamos médicos de IA, podremos tener un número ilimitado y sabrán mucho más que cualquier médico humano, porque el médico de IA puede actualizarse cada día con todos los hallazgos de todas las investigaciones del mundo, cosa que ningún humano puede hacer. El médico de IA puede estar con nosotros 24 horas al día, controlar nuestra presión arterial, los niveles de azúcar, el nivel de estrés, y también darnos consejos que se adapten a cada individuo. Esto es algo que los médicos humanos no pueden hacer, y también será mucho más barato. De esta manera se puede crear la mejor atención de salud en la historia, y podría ser dentro de 10, 20 años, incluso los pobres podrían disfrutar de una mejor atención médica que los multimillonarios de hoy, gracias a la IA.
Si piensas en accidentes automovilísticos, cada año mueren alrededor de un millón de personas, la mayoría causados por errores humanos, por alguien que bebe alcohol y luego conduce. Cuando se da a las IA el control de los vehículos autónomos se podría salvar un millón de vidas cada año, porque las IA nunca beberán alcohol, nunca se quedarán dormidas al volante, aunque todavía habrá algunos accidentes, ninguna tecnología es perfecta.
La mayor parte de la atención se centra en el lado peligroso de la inteligencia artificial; la razón es simplemente que todas estas corporaciones extremadamente ricas y poderosas inundan a la gente con historias positivas, con predicciones positivas sobre lo que hará la IA, con la intención de ignorar los peligros, por lo que se convierte en el trabajo de filósofos, historiadores, académicos, como yo, de centrarnos en el lado peligroso, pero eso no significa que solo haya peligro. Nuevamente, no vamos a dejar de desarrollar la IA, y no deberíamos, porque tiene mucho potencial positivo. Lo que decimos las personas que arrojamos luz sobre el lado oscuro de la IA no es que nos detengamos, sino simplemente que se invierta más en que esta tecnología sea segura. Es tema de sentido común en todas las demás industrias; si fabricas un carro, tienes que invertir parte de tu investigación en que sea seguro, de lo contrario, nadie te dejaría ponerlo en la carretera. Si producimos un medicamento o una vacuna, tenemos que invertir mucho esfuerzo, dinero y talento para asegurarnos de que ese medicamento sea seguro, haga lo que pretende, como curar una enfermedad, y que no tenga efectos secundarios peligrosos. Lo mismo debería ocurrir con la IA.
Si desarrollas un algoritmo potente, eso está bien, pero asegúrate de que no tenga efectos secundarios perjudiciales para la sociedad, para la política, para la cultura. Si las empresas de IA invirtieran, digamos, el 20 % de su presupuesto y de su talento en seguridad, creo que sería un avance muy bueno, y que podría protegernos al menos de algunos de los potenciales daños. Algunas personas en la industria tienen una mentalidad defensiva, y dicen que debemos movernos más rápido porque no queremos que nuestros competidores, ya sea en los EE.UU. o en China o en otros lugares, nos ganen, pero esto es extremadamente peligroso. Cuando se habla de los peligros, dicen, ‘Ahora nos centramos en el desarrollo de la IA tan rápido como podemos, si hay un problema en el camino, lidiaremos con él en ese momento’. Esto es extremadamente peligroso, es como si alguien pusiera un vehículo sin frenos en la carretera, y te dijera: ‘Nos centramos en hacer que este carro fuera lo más veloz posible, si hay algún problema en el camino, encontraremos la manera de inventar unos frenos e instalarlos en el coche’. Ya que no funciona así con los autos, no debería funcionar así con la IA”.
“Hay que decirle a la IA lo que tiene que hacer, y para eso se necesitan filósofos y no solo ingenieros y matemáticos. Y va desde estas pequeñas cuestiones hasta los asuntos más importantes de la filosofía sobre la naturaleza del libre albedrío o el significado mismo de la vida”.
El papel de la historia y la filosofía en el mundo que vivimos
“Las cuestiones existenciales que preocupan a los filósofos desde hace miles de años, pero que antes no eran muy prácticas, ahora se convierten en cuestiones prácticas. Tenemos que tomar decisiones, y se comienza con preguntas como si pensáramos en un vehículo autónomo. Durante miles de años, los filósofos han debatido sobre cuestiones teóricas: si tienes que tomar una decisión, sabes que tu vehículo puede atropellar a un anciano o a dos niños, ¿a cuál deberías matar? ¿A cuál debe atropellar el vehículo? Los filósofos lo discutieron durante miles de años, pero tuvo poco impacto real en la sociedad, porque solo era una teoría, y no importa qué puntos de vista tuvieran las personas en el momento de la crisis, pocas personas actúan de acuerdo con la filosofía teórica. Actuamos en función de nuestras emociones mucho más que de nuestras ideas intelectuales.
Ahora que tenemos vehículos autoconducidos esto se convierte en una cuestión muy práctica, tienes que decirle al algoritmo qué hacer en una situación específica. Si tu vehículo autónomo está a punto de atropellar a dos niños y la única manera de evitarlo es desviarse a un lado, pero esto podría provocar un accidente que mataría al propietario del carro, que está durmiendo en el asiento trasero, ¿qué debería hacer el auto? ¿Sacrificar a su dueño o atropellar a esos dos niños?
Hoy en día se trata de una cuestión práctica, hay que decirle a la IA lo que tiene que hacer, y para eso se necesitan filósofos y no solo ingenieros y matemáticos. Y va desde estas pequeñas cuestiones hasta los asuntos más importantes de la filosofía sobre la naturaleza del libre albedrío o el significado mismo de la vida. También, por ejemplo, ¿en qué punto deberíamos empezar a reconocer a las IA como formas de vida, y darles derechos y una posición ética en nuestras sociedades? Muy pronto será una cuestión totalmente práctica y para ello necesitaremos la participación no solo de filósofos, sino también de historiadores, artistas y poetas”.
