Por uma base filosófica não-antropocêntrica para o design de software
Abel Reis
Toda revolução em ciência e tecnologia, usualmente, vem acompanhada de uma relevante inovação de ordem filosófica. Cabe então aqui perguntar, na trilha de Althusser: há uma revolução filosófica em curso, particularmente no ocidente, capaz de endereçar os dilemas sociais, éticos, epistemológicos e ontológicos trazidos por esse breakthrough científico? Que papel crítico e contributivo a Filosofia pode desempenhar, particularmente, junto às ciências cognitivas e à inteligência artificial? Os fundamentos filosóficos que dirigem as abordagens ao papel e ao design do software (incluídos os artefatos ditos inteligentes), têm, como parti pris, a hipótese de que o homem é o único ente pensante e falante frente a um mundo de coisas mudas (Rees 2022). E como decorrência dessa condição, dessa excepcionalidade, o homem usufrui do privilégio de fazer história, cultura e política. Qual a tarefa da Filosofia nesses “tempos digitais” onde técnicas de inteligência artificial adentram nossas vidas de variadas formas? Pensar o software. Pensar inovadoras bases filosóficas que alarguem nossa visão acerca do design de artefatos inteligentes de software, na direção de superar a miopia da “técnica pela técnica”. É premente contornarmos crenças tácitas e limitantes que obstaculizam o avanço real da tecnologia em direção a um mundo justo e sustentável.
Referências bibliográficas
Reparação em regulação de inteligência artificial: parâmetros para uma atenção efetiva e holística a vítimas
Fernanda Rodrigues
A responsabilização de agentes envolvidos no desenvolvimento de sistemas inteligência artificial por eventuais danos causados por esses sistemas é um tema absolutamente relevante. No entanto, o outro lado dessa moeda, que muitas vezes pode passar despercebido, é o da reparação efetiva a vítimas que comprovadamente houverem sido prejudicadas por essas tecnologias.
Diretrizes internacionais da ONU desde 2005 apontam que uma reparação holística não se traduz apenas em compensação monetária, mas em diferentes elementos que visam recompor a vítima em diferentes esferas. Nesse sentido, o objetivo do presente projeto é buscar as bases para a construção de uma política reparadora voltada especificamente para o contexto brasileiro e que considere as suas especificidades no campo de IA.
Para tanto, a pesquisa contará com análise de legislação nacional (em andamento) em torno de IA e de recomendações internacionais em torno do direito à reparação, assim como a busca e o estudo de casos de danos já relatados causados por essas tecnologias no país. Com os resultados, espera-se ser possível contribuir para o avanço do debate público em torno de regulação de IA, em especial, no que tange à atenção a vítimas reconhecidas desses sistemas.
Referências bibliográficas
Um estudo visual de imaginários urbanos gerados por Inteligência Artificial a partir de linguagem natural: DALL‧E 2 e Midjourney
Fernando Longhi
DALL‧E 2 e Midjourney são programas de Inteligência Artificial (IA) que são capazes de gerar imagens a partir de linguagem natural, isto é, a linguagem humana propriamente dita. Ao entrarmos com descrições textuais, estes sistemas são capazes de criar conjuntos de imagens com aprendizado de máquina, processando o conteúdo de entrada e cruzando enormes bases de dados que dão formas às palavras. Estas ferramentas já estão se popularizando entre designers, arquitetos e urbanistas e artistas por trazer novas perspectivas e oportunidades no processo criativo. Ao passo que tais sistemas beneficiem a rotina de criadores, devemos estar atentos às estruturas e processos que consolidam tais plataformas, pois carregam em si vieses que refletem os aspectos mais cruéis de nossa sociedade. Esta pesquisa tem como objetivo fazer um estudo visual dirigido de futuros urbanos a partir destas plataformas de IA, a fim de entender seu funcionamento, assim como trazer uma crítica teórica para as imagens criadas. Almeja-se compreender como estas representações geradas por IA poderiam impactar na produção do espaço urbano, e de que maneira pode-se combater a reprodução de imaginários urbanos excludentes e hegemônicos através de um diálogo com tais plataformas.
Referências bibliográficas
Utilização de Inteligência Artificial no Contexto Humanitário: do Humanitarismo de Vigilância ao Tecnosolucionismo e Tecnocolonialismo
Flavia Gabriel
As ações humanitárias tentam suprir necessidades básicas dos seres humanos que enfrentam graves desafios ao redor do globo em razão do abismo social e de direitos humanos causados por diversas desigualdades não sanadas. A fim de concretizar as ações e torná-las mais efetivas, foi-se utilizando as ferramentas tecnológicas que vêm sendo refinadas ao longo dos tempos, inclusive inteligência artificial. Referida utilização teve e tem um alcance e significação exponencial, tomando parte em uma revolução sem precedentes. Contudo, apesar dos benefícios percebidos, não se pode deixar de refletir sobre os riscos envolvidos aos direitos fundamentais da população vulnerável assistida, especialmente a indevida utilização dos seus dados biométricos, que contribui para a manutenção de fortes relações coloniais de dependência.
Referências bibliográficas
Novas Ferramentas de Escrita – Repensando a Atividade Algorítmica por meio de Perspectivas Semióticas
João Furio Novaes
Apresentado pela primeira vez em 2011 pelo autor norte-americano Eli Pariser, o conceito bolha de filtros (desenvolvido para descrever um cenário de insulamento informacional provocado pela constante adoção de algoritmos de personalização em diversos tipos de sites) assumiu ao longo da última década traços de um dado da cibercultura. Já plenamente rebatido, no entanto, por diversas pesquisas de variados campos do conhecimento, tal termo resiste ainda no vocabulário de jornalistas, pesquisadores e comentadores das redes como um fato concreto já presente em certo senso comum sobre como a comunicação se organizaria nas estruturas da atual (2022) composição do ciberespaço. Ao observar tais obras, no entanto – tanto as apologéticas ao termo quanto as que buscam dissolvê-lo – fica, por sua vez, evidente a ausência de uma perspectiva semiótica sobre o assunto. A fim de evitar que equívocos descritivos se acumulem e distorçam ainda mais ao fenômeno que se observa, este trabalho se pronuncia em defesa de que a classe dos semioticistas se apodere dos estudos sobre o ciberespaço por considerar que, tal domínio – eminentemente textual – lhes pertence sobremaneira.
Referências bibliográficas
Inteligência artificial como ferramenta para acessibilidade e inclusão
Luciana Terceiro
Esse trabalho busca investigar as atuais possibilidades da inteligência artificial no design de interações e interfaces para adaptações de acordo com diferentes necessidades humanas.
É lugar-comum afirmar que nosso mundo está rapidamente se tornando cada vez mais digital. Não há mais serviços ou produtos que não dependam de tecnologia em algum grau. Proporcionalmente, o número de pessoas utilizando ou dependendo de sistemas tecnológicos também cresceu exponencialmente. Para ilustrar esse cenário, nas últimas duas décadas, a proporção de pessoas online nos países em desenvolvimento aumentou cerca de 45% (UN The Age of Digital Interdependência 2018:11).
Se por um lado, uma tecnologia cada vez mais ubiqua e enraizada em nossas estruturas agiliza, barateia e simplifica processos e operações, por outro lado isso traz outras complexidades que não podem ser ignoradas. Uma dessas complexidades reside em torno das questões de acessibilidade. As plataformas digitais ampliam acessos e democratizam oportunidades, mas também podem replicar as mesmas barreira encontradas em outros espaços sociais. Essas barreiras podem ter aspectos relacionadas a gêneros, habilidades, etnias, entre outras características, e acabam por excluir toda uma diversidade de pessoas que não se adequam aos padrões do que é considerado “normalidade”.
No entanto, e se pudéssemos usar dados e inteligência artificial para promover e ampliar a inclusão e a diversidade? É possível usar a inteligência artificial para produzir interfaces digitais adaptáveis que personalizem interações de acordo com as diferentes necessidades humanas dos usuários? Atrelado a essas questões, o trabalho também busca investigar aspectos éticos e orientações sobre cuidados com dados e privacidade no que tange a coleta de informações sobre as pessoas usuárias e a definição de melhores práticas.
Referências bibliográficas
Colonialidade algorítmica, modelos preditivos e economia da atenção em plataformas de distribuição de conteúdos socioculturais: Implicações para o imaginário
Maria Aparecida Moura
O projeto tem por objetivo analisar as articulações semióticas, estruturais e tecnológicas dos processos de dataficação, predição e economia da atenção em plataformas de distribuição de conteúdos socioculturais tendo em vista compreender suas repercussões na conformação do imaginário sociocultural e da colonialidade algorítmica em contextos nacionais. Adota-se a triangulação de teorias e métodos como forma complementar para estabelecer as possíveis articulações sociotécnicas e orientar a construção do modelo conceitual. Inclui -se a epistemologia semiótica, a análise de redes sociais (ARS), a análise de conteúdos, os processos sociais de organização da informação e os métodos estatísticos.
Análise das consequências do viés na tomada de decisão dentro do espaço urbano
Maria do Val da Fonseca
O discurso das Cidades Inteligentes proporciona a implementação de tecnologias de monitoramento sem que a população saiba dos riscos, vieses e mercantilização de seus fluxos no espaço urbano. O viés na tomada de decisão dentro do território segrega a população, observando-se o processo de antevisão que a tecnologia artificial proporciona. Visto isso, com a implementação de estratégias de vigilância por atores privados em espaços públicos do Brasil, esta pesquisa busca analisar as consequências da utilização da inteligência artificial no cenário nacional.
Errar é humano: O paradoxo da Inteligência Artificial
Odécio Souza
Acreditamos ser este um importante paradoxo, uma vez que é razoável a crença na infalibilidade dos algoritmos computacionais, sobretudo aqueles que serão alcançados pela IA utópica, que pode ser designada por “AIrtificial Super Intelligence” (ASI), ou IA Forte, algoritmos estes que mimetizariam o ser humano; mas ao se tornar uma “imitação perfeita do ser humano”, estaria sujeita à característica “errar é humano”.
Tais designações, as quais podem ser marcos de uma singularidade, deverão ser esclarecidas, já que pretendemos provocar um conjunto importante de análise, que parte do pressuposto que a ASI acontecerá de forma inevitável. Argumentamos que tal evento terá resultados altamente positivos, assim como potencialmente desastrosos – algo como evento de extermínio da raça humana -, dependendo de como a humanidade se preparar para recebê-lo.
Referências bibliográficas
Inteligência Artificial: vilã ou aliada no ativismo coletivo voltado ao empoderamento, inclusão e formação de mulheres em tecnologia?
Renata Frade
Nos últimos dez anos, comunidades femininas em tecnologia no Brasil foram criadas tendo a inteligência artificial como tema principal de comunicações e interações entre líderes e membros, realizadas em algumas das principais plataformas digitais criadas por Big Techs.
Estes coletivos têm como objetivos de inclusão, empoderamento e formação de mulheres áreas de atuação profissional relacionadas a IA. Apesar da familiaridade com algoritmos e programação, não se sabe até a que ponto que este ativismo ocorre de maneira isenta e livre pela mediação das trocas ocorridas nestas plataformas, cujos algoritmos moldam sugestões de gostos, consumo. Também é desconhecido aferir o nível de conscientização e ações desenvolvidas nestes coletivos para prevenir e lidar com ameaças e violências em ambientes virtuais em IA, como o metaverso.
Este trabalho visa, a partir de questionários com duas comunidades e avaliação organizacional e comunicacional de outras oito, avaliar oportunidades e riscos ao ativismo coletivo de mulheres em tecnologia ligadas a partir da relação com IA.
Referências bibliográficas
Algoritmos da Depressão: Inteligência Artificial, Saúde Mental e Sociedade
Tânia Valente
A ascensão da política neoliberal no estado brasileiro embutiu, em seus processos de agenciamento, um sentimento de exclusão associado a novas subjetividades para os indivíduos não contemplados neste movimento. As tecnologias de informação e comunicação têm surgido como elemento capaz de viabilizar novas estratégias de poder e de soberania, onde “vidas descartáveis” passaram a existir. Neste contexto, a quem não consegue obter êxito e felicidade do ponto de vista da saúde mental tem restado apenas a si mesmo para responsabilizar, ao invés do estímulo à capacidade crítica de colocar em dúvida a organização da sociedade ou a condição de exploração e injustiça em que vive. Há questões éticas a serem consideradas na análise de aplicativos e vídeos disponíveis nas redes sociais, abordando temas como depressão e ansiedade, aos quais os indivíduos em sofrimento psíquico podem recorrer. Identifica-se que aquele que produz conteúdo sobre saúde mental e aquele que o consome são vítimas de uma ideologia que os mantêm presos num ciclo que se retroalimenta, dentro de uma lógica algorítmica que pode se apresentar bastante perversa e reforçadora dos estigmas associados aos transtornos mentais. Este projeto tem como objetivo analisar criticamente os vídeos do YouTube mais assistidos e os aplicativos mais baixados por usuários da internet direcionados à depressão e ansiedade, tendo como referencial os conceitos de biopolítica e necropolítica.
Referências bibliográficas
Antropofagias periféricas: Apropriação de algoritmos em contextos subjetivos territoriais
Telma Azevedo
As redes sociais são as novas estruturas burocráticas que mediam acessos, pautas e modos de viver. Estas grandes empresas que monopolizam atenção, dinheiro e poder, espalham-se em um ambiente que não acompanha mecanismos de regulação e responsabilização dos efeitos socioeconômicos, culturais e na saúde dos indivíduos com a mesma velocidade. Se nos primórdios a rede se mostrava um local em que a experimentação e o acesso eram mais espontâneos, pois não estava condicionado a modelos econômicos padronizados por redes sociais, e a promessa de que a rede seria um grande veículo de comunicação e democratização de conhecimento se mostra, hoje, menos relevante do que a doutrina consumista – não só do excedente de produção, mas de informações e sua forma elementar, as imagens -, e formas de vigilância mais enfáticas, pois o celular tornou-se para grande parte das pessoas uma extensão humana criando hábitos vinculados às redes sociais da internet 24 horas por dia. Atualmente, é como se a única possibilidade do usuário fosse trabalhar para o fortalecimento destas hegemônicas multinacionais, formal (entre aspas) ou informalmente, obedecendo aos parâmetros de funcionamento das plataformas. Como contrapartida esse projeto enfatiza e caracteriza aspectos populares de apropriação da configuração algorítmica para criação de realidades alternativas, para a promoção e afirmação da força cultural e a diversidade territorial como uma barreira aos artifícios espetaculosos de massificação e afastamento do conhecimento cultural e suas especificidades ligadas aos territórios, o saber ancestral que alimenta os seres não só fisicamente mas culturalmente.
Referências bibliográficas