IA generativa para o português cresce com modelos Albertina e Gervásio

Ecossistema, líder mundial de grandes modelos de linguagem abertos para a língua portuguesa, é coordenado por António Branco, professor da Ciências ULisboa

robot e criança

A família Albertina (codificadores) foi aumentada com o novo Albertina 1.5B, e a família Gervásio (descodificadores) com o Gervásio 7B

Imagem cedida por AB

À família dos codificadores Albertina, foi agora acrescentado o Albertina 1.5B, o maior dos modelos desta família desenvolvido até ao momento, com 1.500 milhões de parâmetros, juntando-se assim aos outros modelos já existentes, com 100 e 900 milhões de parâmetros. Por sua vez, à família dos descodificadores Gervásio, foi também acrescentado um modelo maior, o Gervásio 7B, com 7.000 milhões de parâmetros, juntando-se ao modelo já existente com 1.000 milhões de parâmetros.O Gervásio 7B foi desenvolvido pelo NLX-Grupo da Fala e da Linguagem Natural da Ciências ULisboa. Para uma descrição detalhada, consulte a respetiva publicação: Santos et al., 2024, “Advancing Generative AI for Portuguese with Open Decoder Gervásio PT*”, 3rd Annual SIGUL Meeting, LREC-COLING2024. Para o desenvolvimento do Albertina 1.5B, com o Grupo NLX da Ciências ULisboa, colaborou uma equipa da Faculdade de Engenharia da Universidade do Porto. A respetiva descrição encontra-se em: Santos et al., 2024, “Fostering the Ecosystem of Open Neural Encoders for Portuguese with Albertina PT* Family”, 3rd Annual SIGUL Meeting, LREC.

Ecossistema de grandes modelos de linguagem de IA Generativa para a língua portuguesa foi expandido com novas versões dos modelos Albertina e Gervásio. A família Albertina (codificadores) foi aumentada com o novo Albertina 1.5B, e a família Gervásio (descodificadores) com o Gervásio 7B.

“Este ecossistema é crucial para a tecnologia da língua portuguesa e esta expansão representa um passo da maior importância na preparação da língua portuguesa para a era da Inteligência Artificial“, diz o seu coordenador, António Branco, professor do Departamento de Informática da Ciências ULisboa, acrescentando que “estas classes de modelos estão na base de toda a gama de aplicações de IA Generativa, incluindo as mais mediáticas, como os chatbots ou os tradutores automáticos, e sendo maiores, estes novos modelos têm melhor desempenho”.

Este ecossistema é líder mundial em termos de grandes modelos de linguagem desenvolvidos especificamente para a língua portuguesa que são totalmente abertos e documentados. São de código aberto, gratuitos e distribuídos em acesso aberto sob uma licença aberta, e as suas características e desempenho de topo encontram-se pormenorizadamente validados e documentados em artigos científicos.

Recorde-se que o primeiro modelo Albertina foi disponibilizado em maio de 2023, no que constituiu um marco histórico na preparação tecnológica da língua portuguesa para a era digital, ao ser o primeiro grande modelo de linguagem aberto desenvolvido especificamente para o português, para ambas as variantes, de Portugal e do Brasil, e disponibilizado para investigadores, em organizações públicas e privadas, grandes e pequenas, de todos os setores económicos.

O desenvolvimento deste ecossistema tem tido o apoio da PORTULAN CLARIN Infraestrutura de Investigação para a Ciência e Tecnologia da Linguagem, da Agenda do PRR Accelerat.ai, e da FCCN/FCT, e vai continuar a crescer com mais e melhores modelos.

“Como exemplo, entre muitos outros, da reutilização destes modelos abertos para todo o tipo de finalidades, e por isso do seu importantíssimo efeito multiplicador e democratizador da IA, há a assinalar o recente desenvolvimento por uma start-up do MediAlbertina, para a IA generativa aplicada à medicina em língua portuguesa, que foi possível porque o Albertina já existia para servir de base”, diz  António Branco.

Gabinete de Jornalismo da DCI Ciências ULisboa com Gonçalo Boffil
noticias@ciencias.ulisboa.pt
Já conhece o Albertina PT?
fundo marinho

Novo artigo publicado na Nature Ecology and Evolution, por uma equipa de 30 investigadores de todo o mundo, da qual fazem parte dois investigadores portugueses com ligação à Ciências ULisboa, resulta da consulta prévia de cerca de 680 especialistas e outros profissionais ligados ao meio marinho.

Anfiteatro no C8 e paryicipantes do evento

"A Conferência Internacional Hi-Phi teve um sucesso muito para além do expectável e mostrou a vitalidade do diálogo entre a História e a Filosofia das Ciências", escrevem Ana Duarte Rodrigues e João L. Cordovil, coordenadores científicos respetivamente do CIUHCT e do CFCUL, na crónica sobre o importante acontecimento.

3 alunos no labotarório

Dois anos depois de um interregno, “Ser Cientista” está de volta de 25 a 29 de julho e propõe a jovens alunos que experimentem a “vida” de um investigador.

saída de campo da Geologia

A Faculdade tem um novo ciclo de estudos acreditado pela  Agência e Avaliação e Acreditação do Ensino Superior (A3ES), para substituição dos mestrados na área da Geologia com 90 ECTS. O novo mestrado em Geologia tem a duração de dois anos, com 120 ECTS.

Pedreira

O mestrado em Geologia tem como objetivo formar profissionais com uma formação sólida em áreas chave das Ciências da Terra e que possam responder aos desafios da sociedade do século XXI. Artigo de opinião do Departamento de Geologia a propósito deste novo plano de estudos.

Mesa com vários oradores no grande auditório da Faculdade

A sessão de abertura do 30th International Carbohydrate Symposium foi antecipada e presencial, tendo sido gravada em Ciências ULisboa, para ser apresentada internacionalmente a 10 de julho, primeiro dia do simpósio. A cientista Amélia Pilar Rauter, nesta crónica, descreve o que aconteceu nessa sessão, o antes e depois… O simpósio termina a 15 de julho e segundo a presidente da International Carbohydrate Organisation  serão apresentadas as invenções e descobertas mais recentes, muitas delas relevantes para a sociedade.

dois alunos no laboratório

Doze alunos do Clube Ciência Viva da Escola Secundária Padre António Vieira visitaram um dos laboratórios da Faculdade. A visita foi organizada pelo professor Octávio Paulo, orientada por dois alunos da Faculdade.

Imagem do palco do evento com oradores em destaque

“A iniciativa alcançou o sucesso científico desejado, prontamente reconhecido pela maioria dos seus participantes, (...) o que confirma o interesse crescente que os temas dos riscos urbanos têm vindo a suscitar, no seio da comunidade técnica e científica internacional”, escreve Paula Teves-Costa, presidente da Comissão Organizadora da ICUR2022.

evento da ECFS com pormenor para sigla da sociedade

Carlos M. Farinha, professor do Departamento de Química e Bioquímica da Ciências ULisboa e investigador do Grupo de Investigação em Fibrose Quística, incluído no Grupo de Genómica Funcional e Proteostase do BioISI, foi eleito membro do Conselho de Direção da Sociedade Europeia de Fibrose Quística (ECFS sigla em inglês).

Dua jovens observam espécies no campus da Faculdade

"O BioBlitz é uma metodologia para realizar uma avaliação rápida da biodiversidade de um local num determinado período de tempo", escrevem Patrícia Tiago e Sergio Chozas, coordenadores do +Biodiversidade @CIÊNCIAS. Há cerca de um mês dinamizaram um BioBlitz no campus da Faculdade. Leia a crónica dos cientistas sobre o assunto.

Imagem de satélite da erupção do vulcão Hunga Tonga-Hunga Ha'apai

Estudo publicado na Nature e liderado por investigadores do Instituto Dom Luiz da Ciências ULisboa e do Instituto Português do Mar e da Atmosfera (IPMA) explica o mecanismo por detrás da geração e propagação do tsunami incomum, ocorrido após a explosão colossal do vulcão Hunga Tonga-Hunga Ha'apai, em Tonga.

Imagens relacionadas com o mestrado em Bioquímica e Biomedicina

"Há importantes mudanças no plano de estudos. Simplificámos o percurso formativo, abolindo áreas de especialidade, mas dando grande liberdade aos alunos para a escolha das optativas que mais lhes interessam e ampla escolha", escrevem Cláudio M. Gomes, Margarida Gama Carvalho e Carlos Cordeiro, membros da Comissão de Coordenação do Mestrado em Bioquímica e Biomedicina.

Imagens do campus, laboratórios e salas de aula

Entrevista com os professores Cláudio M. Gomes, Margarida Gama Carvalho e Carlos Cordeiro - membros da Comissão de Coordenação do Mestrado em Bioquímica e Biomedicina -, sobre o mestrado em Bioquímica e Biomedicina. Até maio de 2022, cerca de 165 alunos concluíram com sucesso este mestrado, criado em 2009.

bioplásticos

O BioLab Lisboa é palco do evento Young Creators – BioLab Edition, que se realiza entre 4 e 8 de julho e cujas inscrições terminam a 2 de julho. O programa destina-se a pessoas com mais de 12 anos. O objetivo desta iniciativa é incentivar a criatividade e o desenvolvimento de novas ideias, através do acesso a equipamentos e ao conhecimento na área da Biotecnologia.

Jovem em frente ao computador

A 1.ª fase de candidaturas aos mestrados da Faculdade decorre até 11 de julho. Esteja atento às redes sociais da Faculdade e conheça os testemunhos de quem frequenta estes cursos. Para Fernanda Oliveira, subdiretora da Direção, “a Faculdade tem uma oferta formativa muito diversificada”.

Complexo não covalente de composição [KrSF5]+ (Fig. 1), que provem duma molécula estável, [KrSF6]+ (Fig. 2), em resultado da reação direta de hexafluoreto de enxofre com crípton ionizado

Este ano comemora-se os 60 anos da descoberta da reatividade dos gases nobres nomeadamente do xénon. Nuno A. G. Bandeira, investigador do Departamento de Química e Bioquímica e do BioISI Ciências ULisboa, escreve sobre os gases nobres, suas aplicações e um estudo recente da sua autoria e de cientistas do Centro de Química Estrutural e que apresenta um novo composto de crípton.

Logotipo GMC

A primeira fase de decisões da primeira volta do Global Management Challenge 2022 terminou no passado dia 14 de junho. Em competição estiveram 206 equipas a nível nacional - compostas por estudantes, quadros de empresas ou mistas -, duas delas incluem estudantes da Ciências ULisboa.

Grande auditório da Faculdade com pessoas

Vale a pena recordar os 111 anos comemorados no grande auditório da Faculdade no canal YouTube, numa viagem imaginária a Marte, com a tradicional entrega de prémios e distinções e outros momentos singulares, assim como conhecer a opinião daqueles que participaram no evento.

sao jorge ao fundo e logotipo da iniciativa

“Andamentos da Ciência” é o novo ciclo de conferências da Ciências ULisboa que arranca no próximo dia 22 de junho. Nesta iniciativa, especialistas de diferentes áreas do conhecimento vão partilhar o saber sobre os temas mais atuais da sociedade, na forma de comunicações inspiradas nas palestras TED.

quatro estudantes

O Departamento de Geologia atribuiu 14 cartas de reconhecimento de mérito aos melhores alunos da licenciatura em Geologia de 2019/2020 e de 2020/2021. O Gabinete de Jornalismo entrevistou alguns dos estudantes distinguidos na ocasião. Saiba o que pensam sobre o curso que frequentaram na Faculdade e o que estão a fazer neste momento.

conjunto de pessoas no palco

Numa cerimónia realizada durante a Feira Nacional da Agricultura 2022, em Santarém, foi apresentado e contratualizado o projeto AdaptForGrazing, inscrito no Plano de Recuperação e Resiliência. O projeto é coordenado por Cristina Branquinho, professora do Departamento de Biologia Vegetal da Faculdade e investigadora do cE3c.

Praia

No próximo dia 17 de junho, na praia de Albarquel, em Setúbal, decorrem as atividades “Ida à Maré e Festa na Praia”, promovidas pelo projeto bLueTIDE. Estas atividades contam com a participação de investigadores do MARE - Centro de Ciências do Mar e do Ambiente, polo da Ciências ULisboa, com o apoio da Incubadora do Mar & Indústria da Figueira da Foz.

Ato solene da atribuição do título no Centro Cultural Alcazaba de Mérida

Ricardo Trigo, professor do Departamento de Engenharia Geográfica, Geofísica e Energia e investigador do Instituto Dom Luiz, recebe título doutor honoris causa da Universidade da Extremadura, numa cerimónia que teve lugar no Centro Cultural Alcazaba de Mérida, em Badajoz, Espanha, no passado dia 1 de junho.

Galardoados com os Prémios Verdes

O COVIDETECT é o vencedor dos Prémios Verdes na categoria investigação. “É uma distinção que muito nos honra e que reforça o caráter inovador e visionário do projeto”, diz Mónica Vieira Cunha, professora do Departamento de Biologia Vegetal da Ciências ULisboa, investigadora do Centro de Ecologia, Evolução e Alterações Ambientais (cE3c) e coordenadora científica do consórcio.

lancha hidrográfica leva os alunos para o rio

Durante o mês de maio, uma turma de alunos do 3.º ano, finalistas do curso de Engenharia Geoespacial deslocou-se em trabalho de campo até à Praia de Santo Amaro, em Oeiras, para realizar um levantamento topo-hidrográfico da praia. O trabalho constitui o projeto final da disciplina de Hidrografia, ministrada pelo professor Carlos Antunes.

Páginas