Jimmy Wales habla a Euronews Next sobre las "terribles" primeras etapas de ChatGPT, la lección para OpenAI y sobre su plataforma de medios sociales de código abierto.
PUBLICIDADChatGPT, la popular herramienta de inteligencia artificial generativa (IA) de OpenAI, es actualmente un "desastre" cuando se utiliza para escribir artículos en Wikipedia, según explica a Euronews Next el fundador de la plataforma, Jimmy Wales.
Un artículo de Wikipedia escrito hoy con ChatGPT-4 es "terrible" y "no funciona en absoluto", dice, porque "realmente se pierde en muchas cosas y se equivoca, de manera plausible, y se inventa fuentes, es un desastre".
Incluso llega a predecir que una IA sobrehumana podría tardar al menos 50 años en lograrse.
Sin embargo, aunque cree que es posible que la IA supere a los humanos en un futuro lejano, es más probable que las herramientas de IA sigan apoyando las actividades intelectuales, a pesar de encontrarse en una fase temprana por el momento, afirma.
OpenAI, la start-up más valiosa de Estados Unidos, se catapultó a la escena con su chatbot ChatGPT el año pasado.
La tecnología recibe instrucciones y preguntas y las contesta con una respuesta inquietantemente humana basada en fuentes que recopila en línea. Puede utilizarse para escribir redacciones, letras de canciones o incluso consejos de salud, aunque a menudo puede equivocarse en la información, lo que se conoce como "alucinar".
Pero incluso la empresa más potente de inteligencia artificial por chatbot se vio sumida en el caos con la destitución de su consejero delegado y cofundador, Sam Altman, la semana pasada, y su recontratación apenas unos días después, después de que los empleados amenazaran a la junta directiva con dimitir en masa.
Wales dijo que es "preocupante" que esto haya ocurrido en una empresa tan influyente, pero que "probablemente pasará como si no hubiera pasado nada".
En todo caso, afirmó que es probable que la empresa ponga orden en sus asuntos y que es "una buena lección para las nuevas empresas de todo tipo: hay que pensar, incluso en una fase muy temprana, en la gobernanza y en la estabilidad de la toma de decisiones".
Wikipedia y la IA trabajan juntas
A pesar de sus críticas a los modelos actuales de IA generativa, Wales no ha descartado que la IA se utilice en Wikipedia.
Dijo que si se construyera una herramienta para encontrar errores en un artículo de Wikipedia comparándolo con las fuentes que utiliza, podría ayudar a eliminar inexactitudes.
Incluso dijo a Euronews Next que consideraría una empresa de Wikipedia con otra de IA de código abierto y de uso libre que se ajustara a sus principios, pero aclaró que no hay nada concreto en marcha.
Sin embargo, afirma que sería una decisión que no se tomaría a la ligera.
"La mayoría de las empresas, no sólo las organizaciones benéficas como nosotros, dirían que hay que tener mucho, mucho cuidado si vas a poner en el corazón de tu negocio una tecnología que está controlada por otra persona, porque si van en una dirección diferente, todo tu negocio puede estar en riesgo", dijo.
Por ello, se lo pensaría muy bien a la hora de asociarse, pero añadió que estaba abierto a programas piloto y modelos de prueba.
Wikipedia sigue siendo esencial para la IA generativa, ya que se nutre de información publicada en línea para producir contenidos. Por tanto, la enciclopedia en Internet debe ser precisa y no producir sesgos, algo de lo que se ha acusado tanto a la IA como a Wikipedia.
Para crear un equilibrio de género y combatir la desinformación, Wikipedia cuenta con su propio ejército de "wikipedistas", en su mayoría editores voluntarios masculinos. Según Wales, los wikipedistas son capaces de distinguir entre sitios web falsos y pueden decir fácilmente si el texto ha sido escrito por un humano.
Pero el sesgo es mucho más difícil de abordar, ya que puede ser histórico; por ejemplo, había menos mujeres científicas en el siglo XIX y no se escribía mucho sobre ellas en aquella época, lo que significa que los wikipedistas no pueden escribir mucho sobre ellas. O puede tratarse de un sesgo inconsciente, por el que un wikipedista empollón de 28 años puede tener intereses diferentes a los de una madre de 55 años.
La diversidad es clave para intentar combatir el sesgo, algo que la empresa se esfuerza por conseguir.
"Es un problema real y, obviamente, sentimos una gran responsabilidad en la medida en que el mundo depende de Wikipedia y los modelos de IA dependen de Wikipedia", afirma.
"No queremos enseñar a los robots a ser parciales, así que queremos hacerlo bien, como en el corazón humano de todo el asunto".
El conflicto con Elon Musk
La desinformación y el odio en la red han sido un agravio para Wales, que ha provocado enfrentamientos con el jefe de X (antes Twitter), Elon Musk, quien ofreció 1.000 millones de dólares (915 millones de euros) para que Wikipedia cambiara su nombre por el de "Dickipedia".
Wales nunca ha respondido al comentario de Musk, ya que dijo que no necesitaba respuesta. "Todo el mundo mira eso y dice: '¿Tienes 12 años, Elon?", declaró a Euronews Next.
La oferta de 1.000 millones de dólares se produjo después de que Wales criticara a Musk por despedir a personal encargada de moderar en X, lo que. Según el responsable de Wikipedia, ha incrementado todo tipo de racismo grave y comportamientos tóxicos en la plataforma, y es probable que afecte a los ingresos por publicidad.
"No puedes dirigir una plataforma tóxica y esperar que los anunciantes te den dinero, así que eso podría cambiar las cosas", dijo Wales, añadiendo que él y Musk son "amigos" y se envían mensajes de texto y que los intercambios son "agradables".
Dijo que todavía utiliza X, pero que ha eliminado la aplicación de su teléfono, lo que ha hecho su vida "mucho mejor", ya que puede hacer otras cosas que son menos tóxicas.
Su propio experimento con las redes sociales
Wales ha lanzado su propia plataforma de redes sociales que, según él, tiene un enfoque "completamente diferente" al de X.
La semana pasada, en la Web Summit, Wales anunció la versión beta de su proyecto, llamado Trust Cafe, una nueva comunidad en línea que, según él, dará poder a sus más fiables.
Lo describió como su experimento con una plataforma de medios sociales de código abierto que no se toma demasiado en serio como proyecto empresarial.
Se trata de un cruce entre X y Reddit, en el que se puede hablar de ciertos temas pero no se está limitado a un número determinado de caracteres ni hay un único propietario de la discusión.
Reddit es fantástico y horrible a la vez. Mientras que nosotros estamos persiguiendo un modelo que es mucho más la gobernanza es a través de todo", precisó Wales.
Aunque ite que el odio en línea y el comportamiento tóxico siempre se darán entre algunos s.
"Si tienes gente sensata con suficiente poder, tendrás una plataforma sensata y siempre habrá algún loco. Siempre habrá algún debate que se ponga un poco feo. Así es la naturaleza humana", aseguró Wales.
"Pero siempre que se pueda mantener la idea principal en un cauce sano, se puede tener una plataforma abierta realmente interesante en la que la gente pueda comprometerse de verdad con las ideas".