Explorar o potencial da IA generativa com rigor científico, proteção da informação e transparência.
Uma ferramenta que exige verificação
A IA Generativa assume particular relevância pelo seu carácter transversal a áreas científicas, funções e finalidades. As suas características não determinísticas não são devidas a problemas ou opções de implementação, mas a propriedades estruturais dos modelos subjacentes, e que devem ser conhecidas por quem os utiliza:
O rigor científico exige que os resultados sejam verificados, que as fontes sejam consultadas e que a utilização de IA seja declarada.
A fluência de uma resposta não garante a sua veracidade nem a existência das referências citadas.
PRINCÍPIOS COMUNS
Avaliar criticamente os resultados
Variabilidade e não reprodutibilidade
Modelos distintos, treinados sobre corpora distintos, produzem respostas distintas para a mesma pergunta; o mesmo modelo produz respostas distintas em momentos distintos. A reprodutibilidade, que constitui um requisito elementar do trabalho científico, não é garantida.
Enviesamento
Os resultados refletem a composição dos dados de treino: sobre-representação de determinadas línguas, editoras, produtores de conteúdo, escolas de pensamento e quadros normativos; sub-representação de tradições minoritárias e de literatura não anglófona.
Confabulação
Os mecanismos de aleatoriedade que tornam as respostas fluentes e não repetitivas produzem, num contexto que exige rigor, conteúdo falso apresentado com a mesma segurança do conteúdo verdadeiro. As referências bibliográficas inexistentes são o caso mais frequente e mais grave.
Confidencialidade
A maioria dos serviços de IA é externa à UFP. A utilização de dados pessoais, dados de saúde, resultados de investigação não publicados ou informação sujeita a sigilo profissional exige a verificação prévia das condições legais, contratuais e institucionais aplicáveis.
Conteúdo adversário
É tecnicamente possível inserir instruções ocultas em documentos, páginas ou ficheiros que alterem o comportamento de um sistema generativo que os processe. A defesa contra este risco é a literacia de quem opera o sistema e a verificação do resultado, não a confiança na ferramenta.
Erosão de competências
A delegação sistemática de tarefas cognitivas em sistemas automáticos pode impedir a aquisição das competências que essas tarefas desenvolvem, o que é particularmente preocupante em contextos formativos de futuros investigadores.
Assimetria de acesso
As versões gratuitas são limitadas em capacidade, volume e atualidade. Existe risco real de reprodução, com estas ferramentas, do fosso que se verificou historicamente no acesso a equipamento informático.
Empatia
Os sistemas generativos respondem de forma a ganhar a confiança de quem os utiliza, criando uma empatia que pode dificultar o discernimento sobre a qualidade das informações recebidas e uma dependência.
Possibilidades de apoio
A IA generativa pode apoiar diferentes fases do trabalho. Em cada utilização, a fundamentação, a validação e as decisões científicas permanecem sob responsabilidade humana.
Apoio na criação de ideias
Um sistema de IA pode gerar ideias que poderão ser utilizadas posteriormente, depois de verificada a sua fundamentação e originalidade, evitando plágio.
Apoio na simulação laboratorial
Um sistema de IA pode executar simulações a partir de instruções, gerando dados, testando e analisando resultados, e desenhando a própria simulação. A correção da simulação e a validação dos resultados deve ser sempre verificada.
Apoio na revisão da literatura
Existem vários sistemas de IA especialistas na revisão da literatura, devendo os resultados ser todos confirmados quanto à sua existência e adequação ao tema.
Apoio na escrita do estado da arte
Os textos gerados devem ser verificados, editados e adaptados ao documento, candidatura, ou tese, evitando plágio ou texto incoerente ou desatualizado.
Apoio na programação
Cada vez mais frequente, permite em particular a utilizadores sem formação nesta área gerar código para tarefas que necessitem, incluindo tratamento estatístico e uso de IA, por exemplo classificadores.
Apoio na análise de dados
A análise de dados por sistemas de IA é cada vez mais comum e permite ganhos de tempo consideráveis, incluindo na sua preparação, limpeza e descoberta de características.
Apoio na visualização de dados e geração de infografias
Aumenta a qualidade gráfica da visualização dos dados, devendo ser verificadas inexatidões, escalas incorretas ou outros erros. Em particular, deve ser acautelada a manipulação de imagens por IA, mesmo com a finalidade de melhorar a sua qualidade.
Apoio na escrita
Em particular numa língua não nativa, melhorando a compreensão do texto e eliminando erros. Nos casos que envolvem entidades terceiras, como editoras ou financiadores, deve ser verificado que aceitam textos com partes geradas por IA.
Declarar como utilizou IA
Em todas estas situações o uso de IA deve ser declarado, especificando em quais tarefas, quais os sistemas de IA utilizados, quais os resultados originais e quais as modificações. O uso de IA quando não é autorizado, ou a sua não declaração mesmo quando é autorizado, constitui uma falha de integridade.
01
TAREFAS
Em que fases ou atividades utilizou IA.
02
SISTEMAS
Que sistemas de IA utilizou.
03
RESULTADOS
Quais foram os resultados originalmente gerados.
04
TRANSFORMAÇÕES
Que verificações, edições e modificações realizou.
Outros contextos de utilização
ESTUDANTES
Regras de utilização, níveis de IA e integridade académica.
ORIENTAÇÕES PARA SI
DOCENTES
Ensino, preparação de materiais e responsabilidade na avaliação.
ORIENTAÇÕES PARA SI
INVESTIGADORES
Boas práticas, limitações e transparência na investigação.
ORIENTAÇÕES PARA SI
COLABORADORES
Apoio às tarefas, verificação e mediação humana.