Com, como o Gartner prevê, os gastos generativos de IA (Genai) para exceder todos os outros gastos com TI combinados, sabendo exatamente quando utilizar – e quando não usarem – a Genai será cada vez mais crítica.
David SeussCEO, Northern Light, liderou a sessão de Data Summit, “Onde, quando, e por que usar Genai,” Considerando as maneiras pelas quais a análise de texto pode representar maior valor para muitos casos de uso de pesquisa em vez de genai.
O anual Data Summit A conferência retornou a Boston, de 14 a 15 de maio de 2025, com oficinas de pré-conferência em 13 de maio.
“Deveríamos colocar todos os nossos esforços em Genai?” perguntou Seuss.
Aqui está a realidade: os grandes modelos de linguagem (LLMs) representam nada mais do que a sabedoria das multidões, habilmente pesquisadas e resumidas. Eles não sabem que coisas são– EXECIENTE, ENTIDADES SÃO APENAS ASSENTES DE TOKENS PARA LES. Eles não sabem a diferença entre IBM e CAT, e não têm novas idéias – nunca, explicaram Seuss.
As opções para a criação de soluções genai são as seguintes: treinar um modelo, ajustar um modelo pré-treinado ou usar geração de recuperação de recuperação (RAG). O último desses métodos está se tornando o padrão de fato, de acordo com Seuss, capaz de melhorar a precisão e a confiabilidade dos modelos Genai.
No entanto, há um desafio de janelas de contexto; Com RAG, apenas uma pequena porção de um corpus típica pode ser enviada ao LLM para gerar uma resposta.
“Os usuários acham que os resultados estão voltando de todo o corpus, e não é”, disse Seuss. “Os usuários pensam que todo o conteúdo está sendo analisado e resumido. De fato, apenas uma fração muito pequena do corpus está sendo processada.”
Há uma variedade de estratégias para ajudar a se encaixar nas janelas de contexto, como documentos de crise, usando o processamento de linguagem natural (PNL) para eliminar o texto redundante ou enviar transações separadas para cada documento. No entanto, enquanto todas essas técnicas podem melhorar os resultados do Genai, nenhum deles pode realmente eliminar a questão da janela de contexto, explicou Seuss.
Há uma alternativa para a descoberta do Insight, Seuss ofereceu: marcação profunda e automática do texto completo com taxonomias para uma variedade de áreas, como estratégia de negócios, nomes de empresas, tecnologias de informação, ciências da vida, assistência médica e muito mais. Isso pode ser usado para analisar, filtrar, agrupar e navegar pelos resultados da pesquisa, preservar a qualidade das informações, mantendo a eficácia da pesquisa – e até tem a capacidade de prever tendências futuras.
Onde Genai transmite a sabedoria da multidão – sobre o que as pessoas já falaram – a análise de texto e o conteúdo marcado traz novos conceitos que poderiam ter sido perdidos.
“A análise de texto aplicada com taxonomias contra um corpus … (impulsiona) a descoberta do insight; você obtém um novo conhecimento que não teria com Genai”, disse Seuss.
Por fim, embora Genai reduzisse drasticamente o tempo para realizar tarefas de pesquisa e melhorar a qualidade do trabalho, só pode resumir a preponderância das idéias sobre as quais os seres humanos escreveram, segundo Seuss. Para muitas tarefas, a análise de texto e o aprendizado de máquina ainda são as soluções mais poderosas, especialmente quando o corpus é grande e precisa ser analisado em sua totalidade. Também é valioso para quando:
- As tendências em muitos períodos de tempo diferentes são relevantes
- A visualização em vez de texto é a saída mais poderosa
- A saída depende da análise em vez de resumo
- Novos insights são necessários
Muitas apresentações da Summit 2025 estão disponíveis para revisão em https://www.dbta.com/datasummit/2025/presentations.aspx.
Luis es un experto en Inteligência Empresarial, Redes de Computadores, Gestão de Dados e Desenvolvimento de Software. Con amplia experiencia en tecnología, su objetivo es compartir conocimientos prácticos para ayudar a los lectores a entender y aprovechar estas áreas digitales clave.
