Edite Estrela, que participava na conferência sobre inteligência artificial e democracia, em representação da Assembleia Parlamentar do Conselho da Europa (APCE), alertou para a necessidade de se ser “extremamente cauteloso quanto à introdução de IA nos sistemas legislativos, uma vez que são necessários elevados níveis de confiança na tecnologia e processos de governação fortes antes que tal passo possa ser dado”.
A IA “pode acelerar a criação de conteúdos, mas as preocupações com a transparência, precisão e uso responsável desta tecnologia permanecem válidas”, defendeu a presidente da delegação portuguesa à APCE, salientando que “o nível de risco aceitável e as salvaguardas internas relacionadas precisam de ser bem avaliados e regulamentados, tanto para o trabalho parlamentar, como para os serviços do setor público”.
Edite Estrela sublinhou depois que a “crescente digitalização dos serviços públicos, juntamente com a utilização da tomada de decisões automatizada em determinados serviços públicos – emprego, saúde, proteção social – faz com que os cidadãos necessitem não só de ter acesso adequado à Internet, mas também de informações sobre como são tomadas as decisões que os afetam (se a IA estava envolvida), incluindo mecanismos de reclamação/reparação”.
Ora, neste contexto, “a nova Convenção do Conselho da Europa sobre IA, direitos humanos, democracia e Estado de direito indica claramente que os partidos devem tomar medidas para garantir que existam requisitos adequados de transparência e supervisão adaptados aos contextos e riscos específicos no que diz respeito à utilização de sistemas de IA no setor público”, destacou.
“Além disso, os partidos devem tomar medidas para garantir a responsabilização e a responsabilidade pelos impactos adversos nos direitos humanos, na democracia e no Estado de direito resultantes de atividades que utilizam sistemas de IA”, acrescentou.
A socialista referiu um outro ponto da nova Convenção do Conselho da Europa sobre IA, que passa pela obrigação dos partidos na “identificação, avaliação, prevenção e mitigação dos riscos colocados pelos sistemas de inteligência artificial, considerando os impactos reais e potenciais nos direitos humanos, democracia e Estado de direito”.
