Com a chegada da inteligência artificial, muito tem sido contestado e questionado sobre seus prejuízos para informação e sociedade.
Porém, há de se notar que os benefícios também são amplos.
Em uma matéria da BBC, desenvolvedores de Inteligência Artificial (IA) descobriram uma “caixa preta”. Mas afinal qual é o significado desse conceito?
Caixa Preta
Segundo o engenheiro de computação Nelson Yamamoto, o termo “caixa preta” refere-se a modelos de aprendizado de máquina que são opacos ou difíceis de interpretar e explicar como eles funcionam.
Esses modelos podem fornecer resultados precisos, mas muitas vezes não conseguem explicar como atingiram tal resultado.
Isso demonstra os desafios que os modelos de IA possuem para poder garantir confiança e segurança.
O engenheiro também informa que há um esforço na comunidade de IA para tornar esses modelos mais explicáveis.
Dessa forma, permitindo que os desenvolvedores vejam o que está acontecendo ocorrendo na “caixa preta”.
O termo referente a isso pode-se chamar como “explicabilidade de IA” ou “transparência de IA”.
Portanto, as respostas que são dadas não necessariamente são as corretas, o que apresenta alguns erros também.
Porém, o usuário não tem acesso ao sistema que gera as respostas. Isso pode ser um problema, pois quem trabalha na área da comunicação, por exemplo, precisa saber de onde chegou determinada informação.
Como funciona?
Sobre a questão da utilização das caixas pretas em sistemas de inteligência artificial, Yamamoto explica que pode-se considerar caixas pretas aqueles algoritmos cujos resultados são difíceis de explicar/interpretar ou cujo funcionamento interno não se conhece.
Ele ainda conta que em alguns casos, a utilização dessas caixas pretas são para obter uma precisão maior em tarefas como classificação de imagens, reconhecimento de voz ou detecção de fraudes.
“No entanto, isso pode levar a problemas como a criação de modelos viesados ou a possibilidade de erros ou injustiças que não são facilmente explicáveis. Por isso, muitos pesquisadores estão trabalhando para tornar a inteligência artificial mais transparente e explicável.”
Importância
De acordo com o engenheiro, as caixas pretas são importantes porque muitos modelos de aprendizado de máquina e algoritmos de IA são complexos e não podem ser facilmente explicados ou interpretados pelos humanos.
“Isso significa que os resultados e as decisões que eles produzem são frequentemente vistos como “caixas pretas” que não podem ser explicados de forma clara ou compreendidos.
No entanto, é importante ser capaz de entender como esses modelos funcionam para garantir que eles tomem decisões justas, precisas e éticas.”
Vantagens e desvantagens
Os sistemas de inteligência artificial baseados em caixa preta têm como vantagem a capacidade de lidar com grandes volumes de dados de forma eficiente e de serem capazes de encontrar padrões e relações entre dados que seriam difíceis ou impossíveis para um ser humano identificar.
Porém, as principais desvantagens são a falta de credibilidade em relação às decisões tomadas, o risco de preconceitos e injustiças nos resultados produzidos e a dificuldade em explicar as decisões tomadas pelo sistema.
Privacidade
O que preocupa também é a privacidade, conforme Yamamoto conta, esses sistemas podem coletar e analisar dados pessoais sensíveis sem que o usuário tenha conhecimento ou mesmo consentido.
Além disso, eles podem perpetuar preconceitos e vieses humanos, o que pode ocasionar a discriminação e tratamento injusto para certos grupos de pessoas.
“Em alguns casos, esses sistemas podem até mesmo usar algoritmos de aprendizado de máquina para inferir informações sobre indivíduos que não foram explicitamente fornecidos, o que pode ameaçar ainda mais a privacidade.”
Outro ponto é até onde vai a ética, oi em áreas como saúde, justiça criminal e finanças, as decisões da IA podem ter um impacto considerável na vida das pessoas, portanto é necessário responsabilidade dos desenvolvedores e usuários para minimizar os possíveis riscos e proteger os direitos e privacidade das pessoas envolvidas.
A tecnologia é sempre duvidosa pela questão do controle. Pode haver utilização tanto para o bem quanto para o mal. E é nesse ponto que o neurocientista Ari Brito aborda.
Saúde
Com o avanço nos tratamentos e tecnologia na área da saúde é de suma importância notar esse desenvolvimento.
“Reforço a importância hoje da IA na Medicina e no controle de doenças crônicas principalmente. Se hoje podemos realizar cirurgias e diagnósticos que eram impossíveis antes da IA e dos robôs não há dúvidas que não podemos parar esses avanços. Hoje podemos identificar um tumor em fase de formação, que nenhum exame e olhar humano identifica, mas a IA já consegue. Só isso já valeria a pena arriscar, pelas inúmeras possibilidades de tratamentos e ações. Agora é o momento de escolher”.
Ari também comenta que sobre o desenvolvimento da IA se baseando em mecanismos que permitam o autodesenvolvimento. É como se tivesse ensinado o livre arbítrio para se autoprogramar.
Por exemplo, como humanos que hoje fazem terapia ou buscam o autodesenvolvimento e sofrem de depressão ou ansiedade.
“A questão é: será que as máquinas vão passar por isso também, e mais ainda, como vão ser as reações por meio deste desenvolvimento. Então, por um lado, é ter máquinas mais próximas da nossa humanidade, o que melhora absurdamente as experiências com IA. Porém, podemos sofrer de “um mau atendimento” como é comum numa pessoa que está preocupada ou dispersa naquele momento”, diz.
Desse modo, a caixa preta é um importante tema para a sociedade e tecnologia, pois as informações que compõem este termo são fundamentais para o desenvolvimento da inteligência artificial.
A conscientização dos desenvolvedores e usuários sobre o assunto é relevante, pois, atualmente, a segurança e informação são pontos que podem tanto beneficiar como prejudicar todos.