La Captura de GPT-4#

Desde pocos días después de la salida y el posterior éxito masivo de ChatGPT, empezó una carrera por alcanzar la tecnología de OpenAI. No sería la primera vez que algún Prometeo se hacía con su fuego, y no sería la última.

Tres frentes tomaron la iniciativa: las empresas competidoras, el open source y los laboratorios/grupos de investigación universitarios. Me gusta llamar a este periodo “La captura de GPT-4”, pero antes de capturar al gigante, primero se debia alcanzar al pequeño GPT-3.5 Turbo.

Los primeros intentos se terminan materializando entre marzo y abril de 2023. Universidades y laboratorios habían construido datasets sintéticos de respuestas y conversaciones, muchos de ellos obtenidos en base a las respuestas de modelos propietarios de OpenAI y los usaron para hacer fine-tuning de los modelos base de lenguaje disponibles en la fecha, como LLaMA 1,¹ Pythia,² GPT-Neo,³ BLOOM,⁴ etc. Esto dio paso al nacimiento de Alpaca,⁵ Vicuna,⁶ Dolly,⁷ Koala,⁸ entre otros, y poco después Guanaco.⁹

Una iniciativa del OSS interesante fue OpenAssistant, un proyecto comunitario impulsado dentro de LAION y cofundado, entre otros, por el investigador y YouTuber Yannic Kilcher, donde se pretendía construir un dataset humano propio y abierto para este mismo propósito.¹⁰¹¹

A pesar de que los modelos fueron muy comentados y celebrados, había un problema. Las respuestas que te daban estos modelos se sentían como ChatGPT, pero a la mínima que subías la dificultad de las preguntas te dabas cuenta de que aún no estábamos cerca de la tecnología de OpenAI. Se consiguió que los modelos hablasen en formato chat, pero como herramienta útil aún estaban limitados.¹²

Y aunque las técnicas que usaban estos grupos se fueron modernizando con el pasar de los meses, pasando de un simple SFT a DPO y/o RLHF,¹³¹⁴ tuvieron que venir las empresas y startups a dar una mano para impulsar tanto la competencia como el OSS.

El resto del año estaría marcado por ese ritmo: empresas sacando LLMs abiertos cada vez superiores, acercándose poco a poco a OpenAI. Stability AI sacó StableLM¹⁵ (abril), MosaicML sacó MPT¹⁶ (mayo), el TII de los Emiratos Árabes Unidos sacó Falcon¹⁷ (mayo), Meta sacó Llama 2¹⁸ (julio), Mistral sacó Mistral 7B¹⁹ (septiembre).

Instituciones previamente poco involucradas con la IA notaron el potencial de la tecnología y comenzaron a invertir en investigación y desarrollo de LLMs. El ambiente se volvió tan competitivo que no tenía sentido intentar preentrenar o alinear modelos de lenguaje a menos que fueras una startup con millones de capital o con apoyo del gobierno.

En ese entonces había dos partícipes importantes que, a pesar de estar bastante por detrás, apostaron por mantener sus modelos closed source. Y aunque todo el mundo tenía expectativas altas en ellos, aún no nos habían entregado nada mínimamente competitivo con el líder. Hablo de Anthropic con Claude²⁰ (marzo) y Claude 2²¹ (julio) y Google con Bard²² (marzo).

Referencias#