A tecnologia de scaffolding, embora seja bastante promissora, na verdade não resolve a questão fundamental das alucinações da IA. Veja o que os grandes modelos estão fazendo agora — gerar informações falsas, inventar dados, criar conteúdos sem sentido, esses problemas surgem constantemente. As restrições em formato de estrutura são úteis? Têm algum efeito, mas estão longe de ser suficientes. A menos que se melhore fundamentalmente o mecanismo de aprendizagem do modelo e o sistema de validação do conhecimento, essas soluções paliativas só poderão aliviar os sintomas superficiais. A direção atua
Ver original