Processamento de Linguagem Natural: Conceitos, Técnicas e Aplicações em Português

Sobre este livro
Como citar
Prefácio
Como ler este livro
Introdução
	O que é PLN?
		Introdução
		A língua
		Os Paradigmas de PLN
		Vale a pena relembrar
Fala
	Texto ou fala?
		Histórico e panorama da área
		Aspectos teóricos fundamentais
			A estrutura da língua falada
			Reconhecimento de fala
			Síntese de fala
			Considerações finais
	Recursos para o processamento de fala
		Introdução
		Recursos para síntese de fala
		Recursos para segmentação prosódica
		Recursos para reconhecimento automático de fala
		Recursos para Reconhecimento de Emoções
		Recursos para predição de pontuação no cenário de ASR
			Ilustrando o uso do ASR Whisper na predição da pontuação em português
			Descrição do Corpus MuPe e seu dataset de teste
			Corpora usados nos trabalhos de Predição da Pontuação para ASRs
		Considerações finais
		Agradecimentos
Palavras
	Sequência de caracteres e palavras
		Conceitos básicos da morfologia
			Morfema
			Token e Type
			Lexema, Lexia e Lema
			Léxico e Gramática
			Léxico comum e Léxico especializado
			Palavras funcionais e palavras lexicais
			Processos de formação das palavras
			Morfologia e morfossintaxe
		O processamento morfológico em PLN
			Sentenciação
			Tokenização
			Tokenização em Subpalavras
			Normalização
			PoS tagging
			Anotação de atributos morfológicos
		Ferramentas e recursos para o processamento morfológico
			Ferramentas para o português
			Recursos para o português
			PortiLexicon-UD: um recurso para processamento léxico em português
		Considerações finais
	Expressões multipalavras
		Introdução
		Hora de dar nome aos bois
			As pedras fundamentais
			Definições de MWE: uma pedra no nosso sapato
			Separando o joio do trigo
			MWEs para dar e vender
			Um osso duro de roer
		Tarefas: botando a mão na massa
		Recursos: uma joia rara
			Léxicos de MWEs
			Corpora de MWEs
			Corpora de MWEs em português
		Avaliação: colocando os pingos nos \'i\'s
		Até onde chegamos e para onde vamos
			Criação e manutenção de recursos
			Diálogo entre projetos e equipes
			Diversidade linguística
			Descrição aprimorada e ampliada de MWEs
			Processamento cognitivo de MWEs
		Ao infinito e além
		Agradecimentos
Estrutura
	A ordem e a função das palavras em uma sentença
		Introdução
		Reflexões Iniciais
		Noções Básicas de Sintaxe
		Tipos de representação
			Colchetes
			Árvores
			Setas
			Parênteses
			Indentação
		Sintaxe de constituência
			Possibilidades de interpretação e ambiguidades sintáticas
		Sintaxe de dependência
			Núcleo e dependente
			A representação da sintaxe de dependência
			Projetos de anotação multilingue: Universal Dependencies
		Qual é melhor: constituência ou dependência?
		Fronteiras da sintaxe
			Sintaxe e Morfologia
			Sintaxe e Semântica
			Sintaxe e Pragmática
			Sintaxe e Discurso
		Considerações finais
	Ferramentas e recursos para o processamento sintático
		Introdução
		Tipos de parsing
		Recursos e ferramentas para o português
			Corpora
			Parsers
		Visualização, anotação e edição de treebanks
			Árvores de constituência
			Árvores de dependência
			Anotação de corpus em múltiplos níveis
		Considerações Finais
Significado
	E o significado?
	Semântica com técnicas simbólicas
		Bases de Conhecimento Semântico
			Wordnets
			FrameNet
			ConceptNet
		Considerações Finais
	Semântica distribucional
		Semântica Vetorial
			Matriz termo-documento
			Matriz termo-contexto
			Calculando a similaridade entre vetores semânticos
		Vetores esparsos
			Atribuindo pesos aos termos da matriz termo-documento com TF-IDF
			Atribuindo pesos aos termos da matriz termo-contexto com PMI
			Reduzindo a dimensionalidade com LSA
		Vetores densos estáticos
			Word2Vec
			Fasttext
			Glove
		Considerações Finais
Discurso
	Modelos discursivos
		Introdução
		Modelos de relações discursivas
			O modelo RST (Mann e Thompson, 1988)
			CST: Cross-document Structure Theory, 2000
		Recursos e aplicações para o português brasileiro
		Considerações Finais
	Resolução de correferência
		Introdução
		Resolução de Correferência
			Referentes
			Relações Semânticas Referenciais
			Correferência, Anáfora e Catáfora
			Referências Endofóricas e Exofóricas
			Correferência, coerência e coesão
		Abordagens Computacionais para Resolução de Correferência
			Modelos Baseados em Regras
			Modelos Baseados em Aprendizado de Máquina
			Entity-Mention
			Mention-Ranking
			Antecedent-Tree
			Modelos Voltados à Língua Portuguesa
		Avaliação da Tarefa de Resolução de Correferência
			Métricas de Avaliação
		Aplicações
Dados e Avaliação
	Dataset e corpus
		Introdução
			Dataset ou corpus anotado?
			Anotação linguística
		Datasets pra quê?
			Sobre a importância dos dados
		Características de um bom dataset linguístico
		Por onde começar?
			Definição do problema ou tarefa
			Conjunto de etiquetas e instruções: o esquema de anotação
			Escolha do corpus
			Codificação
			Anotação: sabedoria de especialistas ou sabedoria da multidão?
			Ferramentas de anotação
			Estratégias de anotação
			Formas de avaliação
		Procedimentos e estratégias de anotação e revisão
			Palavras, regras e padrões linguísticos na construção de um corpus padrão ouro
			Revisão de anotação
			Até onde precisamos rever?
		Como avaliar a qualidade do dataset?
			Concordância entre-anotadores
			Avaliação intrínseca
			Avaliação extrínseca
		Em resumo…
		Agradecimentos
	Avaliação de tecnologias de linguagem
		Introdução: Avaliando
		Contexto: Por onde começar?
			Um pouco de história
			Formalização de problemas e de modelos
			Caracterização de tarefas de PLN
		Paradigmas: Tipos de avaliação
			Avaliação Conjunta e Leaderboards
		Procedimentos: Como avaliar?
			Hipóteses e Experimentos
			Referências
			Mensurações
			Partição de dados
			Validação Cruzada
			Comparação de Performance
			Testes de Significância Estatística
			Baselines
			Ablação e Substituição
			Análise de Dados
			Análise de Erro
			Avaliação Humana
		Métricas: Medindo a performance
			Usando métricas de forma responsável
			Métricas comuns em PLN
		Uso Responsável e Boas Práticas
			Como reportar resultados?
			Como tornar os resultados reprodutíveis?
			Como testar e documentar um sistema?
			Como organizar experimentos?
			Atuando com ética
		Para Concluir
		Exercícios
		Agradecimentos
Modelos
	Modelos de linguagem
		Relembrando a Hipótese Semântica e Definindo Modelos
		Modelos de Linguagem Probabilísticos
			Estimando as probabilidades a partir de corpora
			Usando o modelo probabilístico
		Modelos de Linguagem Neurais
			Um Contexto Histórico
			Modelos de Linguagem Neurais Modernos
			Treinamento e Ajustes em Modelos de Linguagem Neurais
			Avaliação de Modelos de Linguagem Neurais
		Tendências
			A Era dos Large Language Models (LLMs)
			Treinamento Eficiente de Modelos de Linguagem Neurais
			Estratégias de Treinamento para Agentes de Conversação: alinhamento e feedback humano
Interação
	Perguntas e Respostas
		Introdução
		Classificação de Sistemas de Perguntas e Respostas
			Tipo de pergunta
			Tipo de Fonte de Conhecimento
			Domínio de conhecimento
		Abordagens
			Abordagem modular com documentos
			Abordagem modular com grafo de conhecimento
			Abordagem end-to-end
		Métodos de avaliação
		Outras tarefas relacionadas a PR
			Comunidades de Perguntas e Respostas - Community QA
			PR de múltiplas etapas Multihopping QA
			PR com dados visuais
		Sistemas de PR para o Português
		Considerações Finais
	Diálogo e Interatividade
		Introdução: Dialogando
		Conceitos: O que forma um diálogo?
		Fenômenos: O que ocorre em uma conversa?
			Incrementalidade
			Troca de Turnos e Estrutura Sequencial
			Disfluências e Reparos
			Construção de Base Comum e de Referências
			Sinais Multimodais
			Análises de diálogo em português
		Modelos e Tarefas: Implementando um processo complexo
			Modelos
			Tarefas
		Avaliação: Verificando a qualidade de um sistema
			Considerações éticas
		Recursos: Trabalhando com dados e sistemas interativos
			Atuando de Forma Responsável
			Corpora
			Ferramentas
			Para Saber Mais
		Conclusão: Mantendo o valor humano em foco
		Exercícios
		Agradecimentos
	ChatGPT, MariTalk e outros agentes de conversação
		Introdução
		Os Jogos de Linguagem
		Jogos que os agentes parecem jogar bem
			Sumarização
			Criação de história
			Tradução automática
			Escrever e-mails
		Jogos que os agentes parecem jogar mal
			Simplificação textual
			Perguntas sobre conteúdo pouco popular na internet
			Conte uma piada
			Inferências: um lance válido no jogo?
		Tarefas em que os agentes jogam um jogo perigoso
		Conclusões provisórias
Aplicações
	Recuperação de Informação
		Introdução
			Relação com o PLN
			O Foco da Recuperação de Informação
			O Conceito de Relevância
			Principais Livros
			Organização deste Capítulo
		Visão Geral de um Sistema Típico de Recuperação de Informação
			Pré-Processamento
			Indexação
		Modelos Clássicos de recuperação de informação
			Modelo Booleano
			Modelo Vetorial
			Modelos Probabilísticos
		Avaliação da Qualidade de Sistemas de recuperação de informação
			Métricas
			Coleções de Teste
		Modificação Automática de Consultas
		Ferramentas e Bibliotecas
			Sistemas Comerciais
			Ferramentas para Pesquisa
		Conclusão
		Agradecimentos
	Extração de Informação
		Introdução
		Um pouco de história
		Conceituação formal: Relação e Entidade
			Entidade
			Relação
		Extração de Informação (EI)
			Reconhecimento de Entidades Nomeadas
			Extração de Relações
			Extração Conjunta de Entidades e Relações
			Métodos empregados para EI na literatura
		Extração de Informação Aberta
			Formalização
			Abordagens
		Avaliação
		Considerações finais
		Agradecimentos
	Tradução Automática
		Introdução
		Abordagens
			Tradução direta
			Tradução Automática Baseada em Regras
			Tradução por interlíngua
			Tradução Automática Baseada em Exemplos
			Tradução Automática Estatística
			Tradução Automática Neural
		Avaliação da Tradução Automática
			O que é Avaliação da Tradução Automática?
			A importância de uma avaliação replicável
			Métricas Automáticas
			Métricas Humanas
			Avaliação dependente de contexto
		O Futuro da Tradução Automática
	Sumarização Automática
		Introdução
		Por trás do processo
			Sobre conceitos
			Sobre o processo de sumarização
		Avaliação na SA
		Aplicação
			Algoritmo baseado na frequência das palavras
			Algoritmo baseado em Transformers
			Avaliando os sumários
		A Sumarização automática e a língua portuguesa
		Considerações finais
	Complexidade textual e suas tarefas relacionadas
		Introdução
		Complexo para quem?
			Por que não ensinar a ler em vez de simplificar um texto?
		Tarefas de PLN relacionadas à complexidade textual
			Adaptação textual
			Simplificação textual
			Simplificação lexical
			Simplificação sintática
			Sumarização automática
			Elaboração textual
		Avaliação da Complexidade e suas Métricas
			Fórmulas clássicas
			Métricas Linguísticas
			Métricas Psicolinguísticas
			NILC-Metrix
			Rastreamento ocular
		Recursos para Complexidade Textual e Sentencial no Português Brasileiro
			Recursos para Complexidade Textual
			Recursos para Complexidade Sentencial
		Uso de Modelos de Linguagem para a Simplificação Textual
		Considerações finais
	Correção automática de redação
		Introdução
			O que é uma redação escolar?
			O que é avaliado?
			Alguns modelos brasileiros de correção
		Detecção de desvios no texto
			Tipos de desvios
			Formalismos de regras
		Atribuição de nota
			Como atribuir nota a redações?
			Atribuição de nota para redações do Enem
		Feedback para o aluno
			Estatísticas básicas do texto
			Assistentes de escrita e ferramentas de auxílio à escrita
			Identificação de pontos fortes e elogiáveis
		Correção manual vs(?) correção automática
			Avanços dos últimos anos
			Vantagens da correção automática
			Vantagens da correção manual
			O exemplo da língua inglesa
			O que defendemos
		Considerações finais
Domínios
	PLN na Saúde
		Introdução
		O texto livre em narrativas clínicas
		Aplicações de PLN na Saúde
			Predição
			Desidentificação
			Extração de conceitos clínicos
			Relações temporais
			Sumarização
		Para onde estamos caminhando?
	PLN no Direito
		Introdução
		O Direito – uma moldura para a significação
		Entre as terminologias e as palavras no Direito do Brasil
		Um caso concreto: em pequeníssima escala
		Outros casos/exemplos: Direito Ambiental
		Aplicação: Análise de Sentimentos em Direito: desafios e exemplos
		Considerações finais
	PLN e Humanidades Digitais
		Introdução
		Preparação das fontes
			Digitalização
			Metadados
			Normalização
			Anotação de textos
		Transformação de textos em dados
			Extração de informação
			Representação de conhecimento e ontologias
			Dados ligados e dados FAIR
		Exemplos de projetos de HD envolvendo o processamento da língua portuguesa
			O corpus Tycho Brahe
			As Memórias Paroquiais
			O projeto MONSOON
			A História do Futuro
			Manuais médicos do século XVIII
		Considerações finais
		Agradecimentos
	PLN em Redes Sociais
		Introdução
		Redes Sociais
			Facebook
			Reddit
			Youtube
			Twitter/X
			Whatsapp
			Instagram
		Áreas de Aplicação
			Detecção de Discurso de Ódio e Linguagem Ofensiva
			Análise de Sentimento
			Detecção de Notícias Falsas
			Detecção de Ironia/Sarcasmo/Humor
		Considerações Finais
Sociedade
	Questões éticas em IA e PLN
		Ética em IA
		Ética em PLN
		Modelos de língua como fonte de conhecimento?
	E agora, PLN?
		Desafios e perspectivas para o PLN-Português
		Há limites para o PLN?
Referências
Apêndices
	Alguns pressupostos para o processamento de fala
		Alguns pressupostos: estatística, probabilidade, teoria da informação
			Probabilidade
			Variáveis aleatórias
			Média e Variância
			Covariância e Correlação
			Vetores aleatórios e distribuições multivariadas
			Algumas distribuições úteis
			Teoria da Estimação e Teste de Significância
			Teoria da Informação, Entropia e Informação Mútua
	Diretrizes de avaliação
		Diretrizes de avaliação para um modelo de cinco estágios
	EAGLES
		EAGLES
	Considerações prévias à sumarização automática
	Sobre as/os autoras/es
		Helena de Medeiros Caseli
		Maria das Graças Volpe Nunes
		Adriana Pagano
		Aline Aver Vanin
		Aline Macohin
		Aline Paes
		Aline Villavicencio
		Amanda Rassi
		Ana Clara Souza Pagano
		Ana Paula Banza
		Ana Sofia Ribeiro
		Arnaldo Candido Junior
		Brenda Salenave Santana
		Brielen Madureira
		Camila Azevedo
		Carlos Ramisch
		Cassia Trojahn dos Santos
		Cláudia Freitas
		Claudia Moro
		Crysttian Arantes Paixão
		Daniela Barreiro Claro
		Daniela Vianna
		Dante Augusto Barone
		Edresson Casanova
		Eduardo Cortes
		Elisa Terumi Rubel Schneider
		Eloize Seno
		Evandro Fonseca
		Fátima Farrica
		Fernanda Olival
		Flaviane R. Fernandes Svartman
		Helena Freire Cameron
		Heliana Mello
		Jackson Wilke da Cruz Souza
		Jessica Rodrigues
		Joaquim Santos
		Laila Mota
		Larissa Freitas
		Lilian Mie Mukai Cintho
		Lucelene Lopes
		Maria José Bocorny Finatto
		Mariza Ferro
		Marli Quadros Leite
		Marlo Souza
		Paula Christina Figueira Cardoso
		Priscilla de Abreu Lopes
		Priscila Osório Côrtes
		Renata Ramisch
		Renata Vieira
		Ricardo Marcacini
		Roana Rodrigues
		Sandra Maria Aluísio
		Sheila Castilho
		Sidney Evaldo Leal
		Solange Rezende
		Tayane Soares
		Valéria de Paiva
		Vinícius G. Santos
		Viviane P. Moreira
		Vládia Pinheiro
		Yohan Bonescki Gumiel