O PudimCast® tarda mas não falha! Dando continuidade ao arco HIGH TECH, LOW LIFE, que se iniciou no episódio passado, Cintia Pudim conversa novamente com o engenheiro André Piazza e com o programador Vinícius Seixas sobre o boom das inteligências artificiais, os impactos que elas vêm causando e também sobre suas consequências, desbravando o lado obscuro da IA.

<figure class="wp-block-gallery has-nested-images columns-default is-cropped wp-block-gallery-1 is-layout-flex wp-block-gallery-is-layout-flex">
<figure class="wp-block-image size-large"></figure>
</figure>

Impactos positivos

Dentre os muitos impactos positivos que a inteligência artificial vem causado, é possível destacar a revolução na área da saúde, em que as ferramentas desenvolvidas vêm auxiliando em diagnósticos médicos mais precisos e rápidos, bem como ajudando a criar protocolos individuais para o tratamento das doenças através da análise precisa de quantidades gigantescas de dados clínicos e imagens médicas. A inteligência artificial também tem sido uma ferramenta poderosa para acelerar a pesquisa científica, com avanços significativos em áreas como a astronomia, biologia, física e muitas outras.

O transporte de cargas e pessoas também vem sendo impactado pela IA, com seu uso voltado para o desenvolvimento de veículos autônomos, como carros e drones. Além de aumentar a segurança nas estradas, reduzir congestionamentos e otimizar o uso de recursos, como combustíveis, os sistemas de navegação baseados em IA podem ajudar as pessoas a planejar rotas mais eficientes e encontrar soluções de transporte mais sustentáveis.

Impactos negativos

Assim como qualquer tecnologia, a IA pode ser utilizada com intenções maliciosas por indivíduos, grupos ou governos. O fácil acesso a ferramentas de criação de texto, imagem e vídeo fez disparar a circulação de deepfakes convincentes, que já estão sendo utilizados para disseminar informações falsas em larga escala e, no final de Junho (de 2023) circularam imagens falsas de Donald Trump sendo conduzido e preso pela polícia de Nova York.

<figure class="wp-block-gallery has-nested-images columns-2 is-cropped wp-block-gallery-2 is-layout-flex wp-block-gallery-is-layout-flex">
<figure class="wp-block-image size-large"></figure>



<figure class="wp-block-image size-large"></figure>



<figure class="wp-block-image size-large"></figure>



<figure class="wp-block-image size-large"></figure>
<figcaption class="blocks-gallery-caption wp-element-caption">Imagens falsas de Donald Trump sendo preso | Reprodução</figcaption></figure>

Com as ferramentas cada vez mais populares e, sendo muitas delas gratuitas, muitas pessoas passaram a depender exclusivamente das respostas da IA, sem questioná-las ou verificar sua precisão. Esse comportamento tem um impacto extremamente negativo porque as habilidades críticas necessárias para a tomada de decisões acabam sendo deixadas de lado.

O lado obscuro das IAs

Embora a maior parte dos impactos negativos das IAs estejam ligados à má utilização da tecnologia, não podemos deixar de falar do lado obscuro dela, como no caso do viés algorítmico, que vem sendo debatido por diversos setores da sociedade.

O viés algorítmico refere-se à tendência dos algoritmos de IA em tomar decisões ou fazer recomendações que podem ser injustas ou discriminatórias. Isso ocorre porque esses algoritmos são treinados com base em conjuntos de dados históricos, e é nesse ponto que o viés pode surgir, como consequência de um treinamento de IA que não leva em consideração a diversidade, por exemplo. 

Para ilustrar isso, citamos no episódio as imagens criadas por Miles Zimmerman que contam, basicamente, com pessoas brancas, de peles e dentes perfeitos, cujas únicas imperfeições notadas são as da dificuldade das IAs em gerar fotos que sejam totalmente críveis, com presença de mais dedos e dentes do que é humanamente concebível.

<figure class="wp-block-gallery has-nested-images columns-2 is-cropped wp-block-gallery-3 is-layout-flex wp-block-gallery-is-layout-flex">
<figure class="wp-block-image size-large"><img loading="lazy" decoding="async" width="1024" height="683" data-id="1801" src="https://pudimcast.com.br/wp-content/uploads/2023/07/FmX1O9YaEAIiFuX-1024x683.jpg" alt="" class="wp-image-1801" srcset="https://pudimcast.com.br/wp-content/uploads/2023/07/FmX1O9YaEAIiFuX-1024x683.jpg 1024w, https://pudimcast.com.br/wp-content/uploads/2023/07/FmX1O9YaEAIiFuX-300x200.jpg 300w, https://pudimcast.com.br/wp-content/uploads/2023/07/FmX1O9YaEAIiFuX-768x512.jpg 768w, https://pudimcast.com.br/wp-content/uploads/2023/07/FmX1O9YaEAIiFuX.jpg 15