L'incitació de la cadena de pensament (amb acrònim anglès CoT) és una tècnica per millorar la capacitat de raonament dels grans models de llenguatge, demanant-los que generin una sèrie de passos intermedis que condueixen a la resposta final d'un problema de diversos passos. Va ser proposat per primera vegada pels investigadors de Google l'any 2022.
S'ha demostrat que els grans models de llenguatge (LLM) que s'entrenen en grans quantitats de text mitjançant mètodes d'aprenentatge profund són capaços de generar resultats semblants a les persones. Tot i que els LLM han demostrat un rendiment impressionant en diverses tasques de llenguatge natural, encara s'enfronten a dificultats amb algunes tasques de raonament que requereixen un pensament lògic i múltiples passos per resoldre, com ara preguntes de raonament aritmètic o de sentit comú. Per fer front a aquest repte, la CoT demana que el model produeixi passos de raonament intermedis abans de donar la resposta final a un problema de diversos passos.
Per exemple, davant la pregunta “P: La cafeteria tenia 23 pomes. Si n'han fet servir 20 per fer el dinar i n'han comprat 6 més, quantes pomes tenen?", una indicació de CoT podria produir passos de raonament que imiten un pensament com "A: La cafeteria tenia 23 pomes originalment. Van utilitzar 20 per fer el dinar. Així que tenien 23 - 20 = 3. Van comprar 6 pomes més, així que en tenen 3 + 6 = 9. La resposta és 9". Això contrasta amb la sortida de la resposta directament.
S'ha demostrat que les indicacions de la cadena de pensament milloren el rendiment dels LLM de mitjana tant en tasques aritmètiques com en tasques de sentit comú en comparació amb els mètodes estàndards d'indicacions. Quan s'aplica a PaLM, un model de llenguatge de 540 mil milions de paràmetres, l'impuls de CoT va ajudar significativament al model, cosa que li va permetre funcionar de manera comparable amb els models afinats i específics de la tasca, fins i tot establint un nou estat de l'art en aquell moment al banc de proves GSM8K.
La sol·licitud de CoT és una propietat emergent de l'escala del model, el que significa que funciona millor amb models de llenguatge més grans i potents. També és possible afinar models en conjunts de dades de raonament CoT per millorar encara més aquesta capacitat i estimular una millor interpretabilitat.
Referències
Categoria:Aprenentatge automàtic