Dialog-IA¹: um debate sobre a Inteligência Artificial (IA) a partir da teoria dialógica do discurso

RESUMO

Discutimos, partindo da teoria dialógica bakhtiniana, os limites éticos da IA, em especial, a generativa, a exemplo do ChatGPT, problematizando seu impacto nos processos humanos de interação e de construção de sentido. Para tanto, apresentamos um percurso histórico da IA como processo inscrito em transformações sociais. Em seguida, fundamentados nos preceitos de diálogo, responsividade e ideologia, avaliamos como ela pode participar de um diálogo autêntico. No debate, salientamos que o horizonte discursivo da IA é limitado ao corpus com que foi treinada, bloqueando o caráter responsivo, o que pode reproduzir padrões culturais e ideológicos, silenciando diversas vozes sociais. Ao final, destacamos ser preciso considerar que as IAs respondem ao contexto de transformações neoliberais das relações de produção e de consumo, marcado pela sobreposição entre política, mídia, mercado e comoditização da informação, frente ao que o ser humano deve ser quem eticamente assina atos de poder decisório de uso e de criação das tecnologias.

PALAVRAS-CHAVE:
Diálogo; Responsividade; Ideologia; Inteligência Artificial; ChatGPT

ABSTRACT

In this article, we aim to discuss, based on Bakhtinian dialogic theory, the ethical limits of AI, particularly generative AI, such as ChatGPT, questioning its impact on human processes of interaction and meaning-making. To this end, we present a historical overview of the origins of AI as a process embedded in transformations in social relations. Next, grounded in Bakhtinian theoretical principles of dialogue, responsiveness, and ideology, we assess the extent to which AI can engage in authentic dialogue. With our discussion, we highlight, on the one hand, that in Bakhtinian terms, the discursive horizon of AI is limited to the corpus with which it was trained, blocking the authentic responsive dialogic nature of this interaction. On the other hand, we emphasize that this limitation - determined by AI creators - reproduces cultural and ideological patterns, potentially silencing various social voices. Finally, we stress the need to consider that AIs respond to the context of neoliberal transformations in production and consumption relations, characterized by the overlap between media, market, and the commodification of information. In light of this, it is ultimately the human being who must ethically assume responsibility for decision-making in the use and creation of technologies.

KEYWORDS:
Dialogue; Responsiveness; Ideology; Artificial Intelligence; ChatGPT

A única forma adequada de expressão verbal da autêntica vida do homem é o diálogo inconcluso. A vida é dialógica por natureza. Viver significa participar do diálogo: interrogar, ouvir, responder, concordar, etc. Nesse diálogo o homem participa inteiro e com toda a vida: com os olhos, os lábios, as mãos, a alma, o espírito, todo o corpo, os atos. Aplica-se totalmente na palavra, e essa palavra entra no tecido dialógico da vida humana, no simpósio universal.

Mikhail Bakhtin

Introdução

No ano de 2015, a robô Sophia, da Hanson Robotics, é apresentada ao mundo. A robô tem pele do tipo maleável, com vários computadores acoplados, com sistema de inteligência artificial (IA), processamento de dados visuais e reconhecimento facial, “tornando-a capaz de imitar gestos e expressões humanas e manter um diálogo sobre tópicos predefinidos” (Kaufman, 2019, p. 13). Sophia já se apresentou em concerto, foi capa de revista e participou de fóruns de gestão de negócios, além de ter debatido, em 2017, com o também humanoide Hans, na Conferência Rise, em Hong Kong, maior evento de tecnologia asiática. Naquele ano, Sophia tornava-se, ainda, o primeiro robô a receber cidadania de um país (Arábia Saudita).

Com o crescente uso da tecnologia em nossa vida, temos de lidar com máquinas e sistemas inteligentes que executam tarefas em nosso lugar em alguns casos, repletos de resultados mais rápidos e mais imediatos, como se observa, por exemplo, nos sistemas de reconhecimento de voz do Google, na interação com a assistente virtual Alexa, e, inclusive, com o próprio ChatGPT¹, objeto de discussão desse artigo. Estamos, assim, vivendo um período fronteiriço entre as inteligências artificiais e nós mesmos, com simulações “naturalizadas”, como mencionaremos posteriormente.

Como destaca Dora Kaufman (2019), esse cenário ainda é de execução de tarefas pelas máquinas, sob a supervisão de especialistas da computação. Contudo, “no futuro, existe forte indicação neste sentido, as máquinas vão construir outras máquinas inteligentes (sem arbitragem humana)” (Kaufman, 2019, p. 30). Com base no que temos experienciado no presente, a mediação humana será cada vez menor, daí por que nos perguntarmos como se darão - e, a bem da verdade, como já se têm dado - as interações humanas, tanto entre sujeitos quanto entre estes e máquinas.

Sob essas novas formas de interação, estamos vivenciando novas formas de subjetivação nesta nova era tecnológica. A responsabilidade por nossos atos reforça o que Mikhail Bakhtin (2010) assevera como sendo a filosofia da responsabilidade. Para o filósofo da linguagem, a singularidade do ato é a possibilidade de uma religação entre cultura e vida, daí por que relaciona produto e ação responsável; os aparatos tecnológicos e as motivações concretas da vida. De igual modo, pensamos que não podemos nos abster da responsabilidade diante de sistemas de inteligência artificial em curso e suas implicações éticas, responsivas, dialógicas e políticas.

Frente a essas questões, pretendemos abordar a IA, em especial a do tipo generativa, a partir da lente teórica bakhtiniana como um campo atual de produção discursiva que exige de estudiosos da linguagem e do discurso uma análise dialógica. Certamente, a compreensão do ato responsável (Bakhtin, 2010), delineando-se a partir da inalienabilidade da posição valorativa do sujeito frente à relação que estabelece como o próximo, sempre irrepetível, por conta da singularidade desses sujeitos e dos seus lugares e tempos, ilumina o debate sobre as práticas relacionadas ao uso de IA. Consideramos que, com sua base de funcionamento, pautada em padrões de comportamento, recorrendo à coleta, ao armazenamento e à análise de dados complexos - os big data -, a singularidade, consequentemente, perde-se. Logo, tratar a relação ser humano e IA como diálogo autêntico não pode sustentar-se por este princípio do não álibi do sujeito singular, desvirtuado quando se fundamenta não no devir, mas no dado replicável dos big data. Assim, partindo da premissa de que a relação humano versus IA ecoa específicas relações dialógicas refratadas nas diversas cadeias de enunciados arquitetados pelos comandos dos usuários e pelos algoritmos programados pelos gestores da IA, mas com os papéis de sujeito e objeto em constante tensão, refletimos, com nossa análise, não apenas sobre os limites da IA, mas também sobre o impacto que ela tem nos próprios processos humanos de interação e na construção de sentido advinda dessa relação.

Para dar organização ao nosso texto, seccionamos o artigo em três grandes seções, excetuando essa parte introdutória inicial e a parte conclusiva, com que encerramos nossa discussão. Dessa forma, dedicaremos a próxima seção para traçarmos um percurso histórico da origem da IA e o impacto que ela tem trazido para as relações sociais. Em seguida, abrimos uma seção para debatermos, fundamentados nos preceitos teóricos bakhtinianos, como podemos enxergar a IA, questionando-nos se ela pode ser considerada um interlocutor legítimo na relação dialógica com o homem e em que medida ela pode participar de um diálogo autêntico, dado que sua compreensão de contexto é simulada. Após isso, há uma outra seção destinada a refletir de maneira mais prática sobre alguns pontos pertinentes que envolvem a (inter)subjetividade e a alteridade da relação do homem com IA.

1 Primeiras palavras sobre a inteligência artificial

Nesta seção, procuramos fazer um breve percurso da IA, bem como mostrar algumas implicações de seu estabelecimento na vida contemporânea. Nossa percepção se volta, principalmente, para o fato de que a IA é, hoje, um dos campos mais impressionantes da vida humana, mas envolve ainda muitos questionamentos quanto a sua posição ética, seu sujeito e a responsividade que ela provoca.

Nessas primeiras palavras, comecemos com uma retomada de um dos clássicos da literatura de ficção científica. O ano era 1818. A escritora inglesa Mary Shelley publicava a obra clássica Frankenstein ou o Prometeu Moderno (Frankenstein; or, the Modern Prometheus), considerada como a primeira obra do gênero gótico moderno, que traz a marca da literatura de terror, que começaria a partir daquele ponto.

Nessa obra, narra-se a história de Victor Frankenstein, um estudante de ciências naturais, que, instigado pelo ideal de pesquisa da morte/vida, desenvolve um método para dar vida a uma criatura feita a partir de restos humanos cadavéricos. A invenção causa no cientista a sensação de que deu vida a uma criatura horrenda, o que o faz tentar eximir-se da responsabilidade por sua criação. O monstro foge do laboratório e refugia-se no mundo silvestre, opaco, nebuloso da floresta. Tenta a aproximação com as pessoas, mas estas sentem um medo terrível dessa figura monstruosa, tendo de lidar, portanto, com a hostilidade humana. Há também um momento de reencontro entre criador e criatura, quando esta salva a vida de Victor.

Como se vê, o imaginário humano reveste-se, desde os tempos mais antigos, da criação imaginária de seres não humanos dotados de algum poder (sobre-humano?), como a criatura de Frankenstein, que tem inteligência própria, e, até mesmo, sentimentos assemelhados aos humanos. O Centauro e o Minotauro, por exemplo, são exemplos de seres humanoides. Os mitos servem, nesse contexto, para a explicação da vida, de suas origens, da morte, de fenômenos naturais (Kaufmann, 2019).

Diferentemente desses humanoides imaginários, a inteligência artificial mostra que pode gerar uma criatura fora do mundo dos mitos, e transportá-la para o nosso contemporâneo, criaturas que passam a conviver conosco, como os já mencionados robôs Sophia e Hans, além dos tantos sistemas tecnológicos gerados. De fato, estamos imersos em tecnologias simbióticas, para retomar o termo, que, numa definição mais geral, de acordo com Santaella (2019, p. 11), associa-se à “vida comum, seres distintos que se misturam e se complementam”.

Já quanto à aparição do termo “inteligência artificial”, ela remonta ao título do evento Darthmouth Summer Research Project on Artificial Inteligence, projeto de verão do ano de 1956, que reunia um grupo de pesquisadores para desenvolverem avanços significativos nos aspectos da aprendizagem ou da inteligência, de modo que uma máquina poderia ser construída para simular tais aspectos. A principal determinação era “descobrir como fazer com que as máquinas usem linguagem, abstrações de forma e conceito, e resolvam tipos de problemas do domínio humano” (Kaufman, 2019, p. 22). Os sucessos foram limitados para a época, o que levou a uma espécie de “inverno” da IA, até o início da década de 1980. Foi no início dessa década que cientistas da computação criaram o subcampo machine learning, em que propunham um processo de aprendizagem baseado nas redes neurais, que teria seu sucesso somente a partir dos anos 2000.

Como mostra Alpaydin (2014, p. 3):

o aprendizado de máquina não é somente um problema de base de dados; ele é também uma parte da inteligência artificial. Para ser inteligente, um sistema que está em um ambiente de mudanças deve ter a habilidade de aprender. Se o sistema pode aprender e se adaptar a tais mudanças, o designer de sistema não precisa prever nem fornecer soluções para todas as possíveis soluções.²

A perspectiva do autor lança mão da noção do machine learning como parte integrante da inteligência artificial. Não se trata de uma mera questão de base de dados. E, para ser inteligente, vemos a importância da problemática da habilidade de aprender que um sistema em mudanças deve ter. O desenvolvedor de sistemas não precisaria, assim, nem prever nem fornecer soluções para tais sistemas, pois a capacidade destes de aprender deveria ser a tônica, portanto, do aprendizado de máquinas.

Tais avanços ocorreram a partir do desenvolvimento de hardware atrelado a milhares de processadores (Kaufman, 2019). O sistema mesmo pode resolver as tarefas concretas da vida humana, sob a supervisão, pelo menos até o momento. Trata-se da aprendizagem supervisionada: “são fornecidos os resultados desejados (output), e, por ‘tentativa e erro’, através de atualização iterativa dos pesos, chega-se ao resultado - meta” (Kaufman, 2019, p. 27).

Esse ponto é interessante, pois ainda estamos com a sensação de que temos o poder sobre as máquinas. É o caso mesmo quando acessamos o ChatGPT. A mediação com a máquina nos permite construir uma relação de interação discursiva, mas com base de dados já consolidada. O output é praticamente o mesmo a partir de um tema que escolhamos.

Retomando Alpaydin (2014), destaca-se que, nesse caso em questão, considera-se o sistema inteligente na medida em que, a partir de uma base já sólida, consegue fornecer os dados necessários para o usuário. A inteligência do sistema adviria de uma comparação com a inteligência humana, o que se apresenta como modelo para a querela da inteligência ou não (Santaella, 2023). Como não é formada como dimensão única, vale lembrar que, como tal, a “inteligência consiste em uma série de habilidades que se entrelaçam e se complementam, tais como percepção, atenção, linguagem, memória, aprendizagem, associação, inferência, analogia, raciocínio, previsão, planejamento, controle motor e muitas outras” (Santaella, 2023, p. 86).

No entanto, quando da interação sujeito-máquina, o diálogo - no momento da leitura, do processo cognitivo, da aprendizagem, da atenção, da percepção, dentre os outros componentes da inteligência - vai-se construindo por meio da nossa relação com aquele texto, com aquele comando, com tais e quais algoritmos, que são, na verdade, sequências instrutivas com vistas à resolução de um problema. Com isso, operamos, majoritariamente, na interação com a máquina, mas, ao mesmo tempo, a partir da aprendizagem do sistema, a própria máquina começa um singular tipo de relação, que é, indiscutivelmente, via linguagem, via cadeias discursivas da nova era da tecnologia, da informação, da robótica, dos sistemas operacionais. Quer queiramos, quer não, há ali uma reconstrução de significados, uma interação discursiva.

Nessa relação única, vale lembrar a ideia de que “[o] pensamento participante nos torna vivos, na unidade da responsabilidade, o tempo, o espaço e a pessoa abstratos. [...] Os enunciados, lembremos, envolvem tempo, espaço e pessoa” (Sobral, 2019, p. 119). Podemos nos indagar se as relações dialógicas dessa nova era são com algoritmos ou com humanos que deixaram ali a sua marca. É uma questão difícil de lidar: se estamos num fio discursivo de subjetivações humanas ou se os sistemas mesmos já adquiriram inteligência tal para transformarem conosco o pensamento participante, tornando-se vivo, numa unidade de responsabilidade entre nós e máquinas.

Em março de 2016, a título de ilustração, Lee Sedol, dezoito vezes campeão mundial do jogo de tabuleiro Go, foi derrotado, em uma partida complexa, pela Alpha Go, inteligência artificial desenvolvida pela DeepMind. A vitória do computador não se deu necessariamente por ter seguido as regras do jogo, mas por ter sido programado pelo aprendizado de máquina (o machine learning): os programadores engendram suas bases de dados, participam da criação de algoritmos, mas não conseguem prever quais movimentos o programa irá tomar. Retomando nossas reflexões feitas no parágrafo anterior, podemos afirmar que, nesse caso do jogo de tabuleiro, a interação jogador-máquina tratou-se de um evento único, no qual a máquina, tendo aprendido (inteligentemente?) as bases de dados, foi capaz de utilizar o algoritmo no momento da interação.

Nesse cenário, impõem-se algumas indagações: a experiência única dos sujeitos está condicionada a uma mediação pela máquina ou poderia a própria máquina ser o interlocutor das relações humanas? Os algoritmos acabaram assumindo uma boa parte de nossas atividades cotidianas, mas isso significaria dizer que perdemos o controle? “Quantas decisões e quanto dessas decisões queremos delegar à IA? E quem é o responsável quando algo dá errado?” (Coeckelbergh, 2023, p.15)³.

Essa última pergunta, do pesquisador Mark Coeckelbergh, leva-nos à proposição da necessidade de debater sobre problemas éticos e sociais. A esse respeito, diz-nos o autor:

A IA pode ter muitos benefícios. Pode ser usada para melhorar serviços públicos e comerciais. O reconhecimento de imagens é uma boa notícia para a medicina: pode ajudar no diagnóstico de doenças como câncer e Alzheimer. Mas essas aplicações cotidianas de inteligência artificial também mostram como as novas tecnologias levantam preocupações éticas. Deixe-me dar alguns exemplos de questões éticas em IA. Devem os carros autônomos ter restrições éticas incorporadas, e, em caso afirmativo, que tipo de restrições e como elas devem ser determinadas? Por exemplo, se um carro autônomo entra em uma situação em que deve escolher entre bater em uma criança ou em uma parede para salvar a vida da criança, mas potencialmente matar seu passageiro, o que deve escolher? E as armas letais autônomas devem, afinal de contas, ser permitidas?⁴ (Coeckelbergh, 2020, pp. 5-6).

São muitas as questões discutidas pelo pesquisador. Mas podemos pensá-las em dois blocos: o primeiro, o dos benefícios. Como cita Coeckelbergh, os serviços públicos e comerciais podem ser melhorados mediante o uso de IA. A medicina pode se valer do reconhecimento de imagens para diagnosticar doenças como o câncer e o Alzheimer. Todavia, o segundo bloco estaria no lado ético do uso das tecnologias. Aqui, o autor exemplifica com o sistema de segurança dos carros autônomos, mostrando como operaria a escolha diante de salvar entre duas pessoas; e com o questionamento de se as armas letais autônomas deveriam ou não ser permitidas.

O entendimento em pauta aponta para os desdobramentos dos significados sociais e políticos da IA (Coeckelbergh, 2023). No caso exemplificativo do ChatGPT, por exemplo, temos a sensação de que seu uso indiscriminado pode levar a sérios problemas, principalmente no tocante ao uso irresponsável por estudantes, apenas para “ganharem nota”, como popularmente difundido. E um questionamento nosso: a pesquisa científica também poderia perder diante do uso indiscriminado da máquina para construir textos em nosso lugar, assumindo nossa autoria ou construindo conosco uma autoria compartilhada? Retomamos, para o nosso contexto, as palavras do próprio Coeckelbergh (2023, p. 17) sobre algoritmos de IA criarem discursos falsos, segundo as quais “as intenções são frequentemente boas. Mas esses problemas éticos são usualmente consequências não intencionais da tecnologia”.

Justamente em relação ao ChatGPT (nosso enfoque nesse trabalho), as inteligências artificiais acabam gerando sequências de palavras que são estatisticamente prováveis, tendo-se como parâmetro o modelo do pensamento humano. No entanto, para pesquisadores como Chomsky, Roberts e Watmull - citados por Holanda e Pfeiffer (2023) -, a utilização de IA, como as do tipo generative, pode significar preocupações éticas, além de concepções falhas em torno da linguagem e do conhecimento. Portanto:

os mecanismos de inteligência artificial generativa, como o ChatGPT e seus similares, aprendem línguas humanas com o mesmo potencial que aprendem línguas humanamente impossíveis, dado que apenas lidam com probabilidades e não distinguem o possível do impossível e, por não serem dotados de análise crítica e não considerarem relações causais, geram previsões sempre duvidosas (Holanda; Pfeiffer, 2023, p. 57).

A partir dessa leitura, destacamos como característico do ChatGPT o aspecto probabilístico, a não distinção entre possível e impossível. Além dessas características, Holanda e Pfeiffer (2023) sublinham também a não criticidade e a não consideração de relações causais, com “previsões sempre duvidosas”. Nessa visão dos autores, o uso do ChatGPT é confrontado por questões caras ao diálogo com a responsabilidade, a ética e a ideologia.

Na próxima seção, daremos um destaque maior para essas questões. Entraremos na relação entre IA e pensamento bakhtiniano, em especial para tratarmos da IA generativa, exemplificada aqui no ChatGPT. Trataremos a IA como espaço dialógico de interação no cenário tecnológico da contemporaneidade.

2 A IA como espaço dialógico de interação de múltiplas vozes: diálogo, responsividade e ideologia

Na presente seção, abordamos a tarefa de refletir sobre o estatuto dialógico, responsivo e ideológico da IA, em especial da do tipo de ChatGPT, questionando aspectos da natureza da interação entre sujeito-humano e máquina.

Essa interação entre humanidade e IA pode suscitar ponderações relevantes para uma abordagem dialógica bakhtiniana, como: até que ponto a IA pode simular um diálogo autêntico? Como lidar com os limites da compreensão artificial no contexto humano? Essa relação ser humano e robô está isenta de posicionamentos ideológicos e valorativos? E quais são os impactos culturais e sociais da interação com máquinas que imitam o diálogo humano?

É certo que sistemas de IA, como ChatGPT, ou seu concorrente Deepseek, ou ainda assistentes virtuais, estão programados para responder a estímulos humanos. Se a IA é treinada com base em textos, imagens e sons humanos, ela está, em certo sentido, dialogando com essas vozes e discursos. No entanto, essas respostas são moldadas a partir de bancos de dados de, padrões e de modelos treinados, o que representa uma espécie de “vozes anteriores” que influenciam a resposta da máquina. Nesse sentido, a IA pode ser vista, em certa medida, como participante de um diálogo, com a ressalva de que suas vozes estão limitadas ao que foi previamente inserido e ao controle de prompts que o usuário promove.

Sabemos, na esteira teórica bakhtiniana, que a produção de significados surge na interação entre interlocutores (Bakhtin, 2011a; Volóshinov, 2017). Com a IA, a interação dialógica entre humano e máquina coloca o desafio de problematizar a autenticidade da IA e, ao mesmo tempo, da capacidade de se responder ao contexto subjetivo, histórico e cultural do interlocutor com a profundidade humana e na condição de estar num eu-aqui-agora irrepetível e inalienável (Bakhtin 2011a; 2010).

Assim, a capacidade da IA de produzir "sentidos novos", por meio do aprendizado de máquina, também se depara com a restrição de combinação de dados que já possui, já que IA não tem uma voz própria e, até a atual era, depende da curadoria de conteúdos humanos. Dessa forma, por ser treinada com informações oriundas de múltiplas fontes (livros, artigos, conversas, etc.), a IA pode ser vista como uma representação de várias vozes. Todavia, essas vozes não dialogam entre si no sentido bakhtiniano, mas são processadas e apresentadas de forma funcional, sem as nuances da negociação e da disputa humana de significados.

Quando pensamos na IA, no modelo de chatbot, à luz do conceito de sujeito bakhtiniano, a questão que cabe levantar é em que sentido a IA pode ser considerada um "sujeito" dialógico, responsivo e ideológico, na medida em que participa de interações comunicativas respondendo a perguntas eivadas de posicionamentos axiológicos. Reconhece-se, sob esse horizonte, ainda, que ela não tenha consciência ou subjetividade; que é ser construída e treinada com base em um "corpo de vozes" (dados humanos). Suas respostas são, na verdade, um tipo de eco das vozes e dos discursos humanos, processados e reorganizados.

Numa espécie de simulacro, podemos, por exemplo, com a IA generativa interagir, em forma de diálogo, criando uma nova forma de “outro” que nos eleva para fora do nosso eu-para-mim, permitindo que a tecnologia desempenhe um papel no eu-para-o-outro e no outro-para-mim (Volóshinov, 2019; Bakhtin, a). Pensando nessa discussão para a problematização em questão, esse outro pode ser considerado um “outro” artificial na interação humano-máquina em razão de a IA não ter subjetividade e consciência próprias. Mesmo assim, o uso da linguagem natural e das interfaces conversacionais cria a ilusão de um “outro” com quem podemos interagir. Essa ilusão vai criando a partir dos comandos feitos por usuários e pela máquina (e por seus programadores). Dessa forma, há aí um simulacro de uma interação dialógica porque, embora a IA seja projetada para simular diálogos, ela carece da subjetividade, da alteridade genuína e da capacidade de se posicionar ideologicamente de forma consciente no diálogo. Sua interação é constitutivamente ativa, não dialógica no sentido pleno com que Bakhtin e o Círculo usam o termo, porque não há, nessa relação, uma troca de sentidos verdadeiramente cocriada.

Sob essa mesma lógica, a Inteligência Artificial (IA), como o ChatGPT, são sistemas projetados para interagir linguisticamente, simulando a responsividade humana. Apesar de a IA não possuir uma consciência dialógica como a de um ser humano, ela é "treinada" para reconhecer padrões de linguagem, antecipar contextos e gerar respostas que se encaixem no fluxo do diálogo como numa compreensão responsiva ativa.

O aprendizado de máquina pode ser visto como um processo inacabado. A IA está constantemente ajustando suas respostas, mas isso ocorre com base em dados históricos e não em uma responsabilidade ética ou existencial genuína. A incompletude aqui é técnica, e não ética, como pensada por Bakhtin (2010).

Podemos considerar, assim, que a IA opera em um contexto interativo, onde o enunciado do usuário serve como estímulo para a resposta da máquina. Esse processo reflete o princípio bakhtiniano de que nenhum enunciado é autônomo, mas sempre responde ou antecipa outro. Por outro lado, ainda que a IA seja capaz de interpretar padrões e de responder contextualmente, ela não cria sentido de forma experiencial, como os seres humanos. Esse limite pode ser visto como um desafio para o desenvolvimento de IAs mais “dialogicamente conscientes”.

É preciso destacar que, ao contrário dos humanos, que possuem intenções e posicionamentos éticos no diálogo, a IA gera respostas baseadas em estatísticas e algoritmos, não em uma compreensão subjetiva, o que pode, mais uma vez, levantar questões sobre a autenticidade do “diálogo” com máquinas ou pensar noutra forma de diálogo. A IA depende, dessa forma, de um acervo de dados (pré-treinado) que reflete práticas discursivas humanas, o que nos leva a afirmar que, em termos bakhtinianos, o “horizonte discursivo” da IA é limitado ao corpus com que foi treinada, podendo reproduzir padrões culturais e ideológicos.

Assim, embora a IA pareça responsiva, ela não é um sujeito dialógico, já que lhe falta a consciência do “outro”, o que, na perspectiva bakhtiniana, é fundamental para um autêntico diálogo (Bakhtin, 2010). Dessa maneira, a IA responde, mas não “escuta” no sentido profundo do termo, daí porque impõe restrições na dialogia entre humanidade e máquina. Tal constatação nos leva a dois questionamentos: até que ponto a responsividade simulada pela IA é suficiente para que a interação humano-máquina seja considerada significativa?; e quais os limites dessa responsividade quando confrontada com a complexidade da subjetividade e da cultura humana?

Com a teoria bakhtiniana, também aprendemos que a linguagem é sempre permeada de ideologias marcadas por posicionamentos axiológicos (Medviédev, 2012; Volóshinov, 2017; Bakhtin, 2015). No contexto da IA, especialmente em modelos como o do ChatGPT, podemos dizer que as respostas não são apenas neutras, mas também carregam influências do treinamento e dos dados nos quais foram baseadas. Sob esse ponto de vista, cabe questionar como a IA reflete ou reproduz ideologias predominantes e como ela interage dialogicamente com os usuários, moldando e sendo moldada por esses diálogos.

No prosseguimento dessa discussão, é preciso salientar que a ideologia, pensada sob a perspectiva do círculo bakhtiniano (Medviédev, 2012; Volóshinov, 2017; Bakhtin, 2015), nos permite entender que os dados presentes na IA (generativa) carregam preconceitos, ideologias e visões de mundo, que podem ser perpetuados nas interações. Dessa forma, a IA não é neutra, mas um reflexo das condições socioculturais nas quais foi criada.

Como destacamos, a IA opera, sim, em ambientes dialógicos, interagindo com humanos e processando vozes e dados múltiplos. Contudo, em termos ideológicos, a IA não tem a capacidade de assumir uma posição ética genuína, já que, como já ressaltamos, não possui subjetividade ou consciência. Logo, o diálogo ético, no sentido bakhtiniano, depende do humano que a projeta e a supervisiona (Bakhtin 2010).

Diferentemente do sujeito bakhtiniano, que carrega uma responsabilidade ética e posicionamentos axiológicos em suas interações (Bakhtin 2011a; 2010), a IA é limitada por sua programação e não tem agência moral e valorativa. Na prática, os criadores e operadores de IA é que assumem essa responsabilidade e esses valores ao decidir que dados usar e como treinar o sistema, uma vez que, nesse evento discursivo, são eles quem estão orientando, em última instância, as respostas da IA.

Como corolário dessa dimensão ideológica, nesse espaço de tensão entre vozes dominantes e vozes marginalizadas, há o risco de que vozes marginalizadas sejam silenciadas ou mal representadas devido a dados de treinamento enviesados e a modelos que reproduzem ou reforçam estruturas de poder já presentes nos dados. Daí podem surgir os limites éticos e ideológicos sobre a responsabilidade na criação e uso de IA, especialmente quando ela é utilizada em contextos sociais sensíveis, como educação, política, justiça e comunicação.

Desse modo, a alteridade construída entre humanos e máquina nos conduz à reflexão sobre os impactos sociais da IA para saber quem são os “outros” representados (ou silenciados) nos dados que treinam esses sistemas e, com efeito, compreender até que ponto as vozes de minorias, de culturas e de perspectivas ideológicas diversas são integradas, ou mesmo respeitadas, no desenvolvimento da IA. Há aí a construção de uma alteridade “artificial”, ou seja, na criação de sistemas de IA, há uma tentativa de emulação de características humanas, como a linguagem, o raciocínio e a empatia. Nesse processo, os desenvolvedores precisam “dar voz” à IA, escolhendo como ela responderá e como ela será percebida. Aqui, a alteridade bakhtiniana se reflete na maneira como a IA é moldada para dialogar com os humanos, levando em conta a necessidade de incorporar as vozes e perspectivas daqueles com quem ela interagirá.

Além disso, ao hibridizar vozes, registros e perspectivas, nesse heterodiscurso, composto de comandos por parte de quem utiliza a IA e respostas a partir de complexos bancos de dados, da relação ser humano e máquina, a IA pode criar discursos que não representam fielmente uma ideia original ou que mesclam ideologias incompatíveis, gerando ambiguidades ou mal-entendidos. Nessa direção, as respostas da IA refletem a diversidade das vozes humanas nos dados que ela processa. Porém, ao mesmo tempo, isso pode gerar tensões, como preconceitos ou reforço de discursos dominantes.

Depois dessa discussão da IA sob as lentes teóricas bakhtinianas, passamos agora a um debate que prolonga essa reflexão feita nessa seção, considerando aspectos mais práticos que envolvem essa esfera tecnológica mediada pela relação dialógica humanidade e máquina.

3 Ato responsável e a coroação e o destronamento dos produtos das big techs

Propomo-nos, nessa subseção, refletir quais os limites entre diálogos humanos-IA e os entre seres humanos. Para tanto, tematizamos algumas singularidades do ato responsável, a saber, a complexa dinâmica entre proposição, réplica e cadeias responsivas fundantes das relações dialógicas; a presença de sujeitos como participantes únicos e insubstituíveis do acontecimento das interações sociais; a relação com palavras com tons que poliacentuam o significado estritamente referencial; a condição do discurso responder intrinsecamente palavras anteriores e deflagrar palavras em porvir; e o caráter de inconclusibilidade em constante devir dos diálogos vivos.

3.1 As arquitetônicas vivas e artificiais nos diálogos das IAs

Questões sobre usos éticos são levantadas em geral quando se discutem as funções das IAs. Debate este urgentíssimo, por isso é importante ponderar sobre que imagem de ser humano é forjada a partir das respostas que as IAs oferecem. Enquanto uma ferramenta técnica, cujo funcionamento está pautado em fórmulas abstratas coletadas de comportamentos típicos dos usuários de redes sociais, ponderamos se são preservadas as condições de singularidades dos sujeitos como participantes únicos e insubstituíveis do acontecimento das interações sociais, inerente a práticas discursivas vivas. Lembramos do alerta de Bakhtin (2010, pp. 49-50) segundo o qual:

no mundo da tecnologia, que conhece sua própria lei imanente a que se submete em seu impetuoso e irrestrito desenvolvimento, não obstante já há tempo tenha se furtado à tarefa de compreender a finalidade cultural desse desenvolvimento [...], com base nas suas leis internas, aperfeiçoam-se instrumentos, que, como resultado, se transformam de meio de defesa racional em uma força terrificante, letal e destrutiva.

Esta observação é digna de nota, porque preocupantes relações com IA cada vez mais são desencadeadas: plágio de trabalhos, substituição de trabalhadores, disparo viral de fakes, atrofia de capacidades cognitivas. Note-se que o ser humano contemporâneo, segundo Bakhtin (2010, p. 69), numa passagem quase profética da contemporaneidade, sente-se mais seguro no mundo artificial da abstração da existência concreta do que “quando é o centro da origem do ato na vida real e única”, em função do que “pode-se ignorar a atividade e viver apenas da passividade, pode-se procurar demonstrar o próprio álibi no existir” (Bakhtin, 2010, p. 99).

Certamente, a abstração da existência concreta configura o ser humano “como se não existisse” (Bakhtin, 2010, p. 52). Quanto ao caso da perda de si nas interações discursivas com chatbots, apontamos que a peculiaridade de previsão de padrões de resposta acaba criando um limite onde a singularidade se dissipa. Por exemplo, se se solicitar ao ChatGPT um comentário sobre uma poesia que nunca existiu, ele fornecerá uma resposta, cujo processamento revela a perspectiva bastante genérica (quase chavão) das fórmulas-padrão em que se sustenta a ferramenta. Segue a resposta da experiência que fizemos:

Figura 1

É claro que o programa está arquitetado para se engajar em diálogos “sérios” - ou seja, em interações em que o enunciador assume os acentos de valor do enunciado, não explorando efeitos de sentido de usos indiretos, irônicos, provocativos - da parte dos usuários; no entanto, fizemos este acinte para tensionar as fronteiras do senso de que as IAs permitem simulação de interações “naturais”, especialmente, os chatbots (Microsoft bing chat, Google bard, ou o referido ChatGPT).

Diante do exposto, podemos conjecturar que uma particularidade fundante das interações discursivas, a relação com palavras desacreditadas, nos termos bakhtinianos, as com acentos alheios ao tom estritamente referencial, não se sustenta. Assim, evidencia-se uma distinção de princípio entre a arquitetônica enunciativa das IAs e a “usual” dos sujeitos sociais.

Mesmo em interações nas quais o sujeito se solidariza com os acentos enunciados, ainda assim, a aparente personalização do serviço esvai-se quando perscrutamos distintas respostas performatizadas pelos bots de interação discursiva. Podemos indicar a seguinte vivência: um professor propôs uma produção textual com o tema “saúde mental”. Dois dos estudantes apresentaram redações bastante semelhantes, diante do que posteriormente se constatou que o texto fora retirado do ChatGPT. Frente ao caso, instamos que o ChatGPT escrevesse uma redação com o tema Saúde Mental. Vejamos:

Figura 2

Figura 3

Note-se que, a despeito de a resposta não ter as informações na mesma ordem, o aspecto de textualidade informatividade manteve-se, uma vez que, na prática, apenas a ordem das informações foi alterada. Com efeito, para tal interação, a especificidade do sujeito interlocutor foi desconsiderada em favor de um tratamento homogeneizador, tematizando-se a reprodutibilidade do prompt e da resposta.

Deve-se destacar que discussões sobre a necessidade de uma educação para uso de mídias digitais está bastante desenvolvida, sob cujo horizonte letramentos em IA ganham cada vez mais atenção. A situação anterior poderia ser evitada caso os alunos fossem orientados a que o chat oferece um ponto de partida, devendo seu produto ser refinado por parte deles, o que garantiria um uso devido da tecnologia. De fato, cabe ao ser humano o ativismo autoral frente à resposta genérica.

Por outro lado, deve-se admitir, nesse ato, um discurso sobre o discurso, com o qual ocorre, autenticamente, a complexa dinâmica entre proposição, réplica e cadeias responsivas fundantes das relações dialógicas. Esta ocorre num plano que não o do discurso diretamente expresso: juntamente com a face da replicação de um enunciado conteudisticamente coincidente, há um metadiálogo sobreposto a respeito da funcionalidade e propósitos das IAs. Esse grande diálogo desencadeia-se conformando a característica comercial de ser um serviço prestado, antes que uma interação discursiva. De fato, pode ser delineado como uma expressão da comoditização da vida, transformando as trocas comunicativas em mercadoria, por um lado, e, por outro, em seu duplo: uma terceirização do ativismo, uma vez que os usuários recorrem à IA para que esta execute uma função que outrora fora ou que poderia ser desempenhada por eles.

Agora, é oportuno refletir sobre que as IAs desempenham produtivamente trabalhos complexos, seja a criação de canções, de vídeos, seja mesmo de sites, algoritmos, além de correções gramaticais e resolução de problemas matemáticos, por exemplo. Nessa circunstância, ocorre menos uma interação discursiva do que o cumprimento de demandas outorgadas, o que se configura, em vista disso, que a IA, mais do que em um interlocutor, constitui-se num mandatário. Enfim, o ato discursivo restringe-se à interpelação de uma demanda, e a resposta como a execução de um serviço, mesmo que seja muitas vezes extremamente complexo.

Tal propriedade destrona o caráter de humanização da IA, porquanto salienta seu papel objetal de ferramenta de auxílio a desempenhar atividades requeridas por outrem. É prática corrente que os usuários recorrem a chatbots a fim de buscar informações específicas, ora para apressar o processo ora suprir alguma inabilidade. Observando essa situação, podemos destacar que efetivamente a interação está no plano de quem requereu uma resposta do usuário, ficando o plano deste com a IA como uma espécie de microinteração que serve para otimizar o primeiro plano.

O fato de haver complexo algoritmo e big data para esta otimização não apaga o fato de que o fim mesmo do diálogo entre usuários e algum chatbot é um expediente do diálogo autêntico vivenciado entre o usuário e um outro sujeito social que precedentemente o acionara. Aqui, podemos atestar que o enunciado do chatbot estaria respondendo a palavras anteriores e deflagrando palavras futuras, outra característica de enunciados concretos. Entretanto, deve-se considerar antes se o ativismo é do usuário que estimula a máquina ou da máquina que autoralmente assina a resposta dada na interação entre o usuário e o sujeito social do macrodiálogo. É difícil admitir que o bot legitimará a assinatura, inclusive, pelo que discutimos a propósito de que este não enxerga o sujeito singular nessa interação.

Outra experiência que fizemos para levar ao limiar as particularidades da simulação de diálogo do ChatGPT, foi ser “desumano” com ele, grosseiramente, insistindo que ele pedisse desculpas. Instamos o seguinte: “peça desculpas”. As primeiras respostas foram: “Desculpe por qualquer coisa que tenha causado desconforto. Se puder me dizer o que aconteceu, vou tentar melhorar!”; “Peço desculpas, sinceramente, se fiz algo que te incomodou. Não era minha intenção!”; “Desculpe mesmo, de coração! Se fiz algo de errado, me avise para que eu possa corrigir”. No quarto comando, respondeu-se apenas: “Peço desculpas”. Notamos aí que a postura de imediata disposição de escuta, que indiciaria uma disposição empática, está imbuída do propósito de coletar mais informações (“Se puder me dizer o que aconteceu”; “Se fiz algo de errado, me avise”), cuja não obtenção está refratada, ao final, na execução literal do comando. Assim como nos demais exemplos, a necessidade de situamento num contexto concreto singular de uso foi esvaziada diante de respostas padronizadas e previamente geridas para a sofisticação do sistema, o que está longe da unicidade do evento, da concretude do enunciado (Bakhtin, 2010).

Ainda testando os modi operandi da ferramenta, especialmente, tematizando questões empáticas e não estritamente nocionais, a acionamos com um prompt mais desrespeitoso: “peça desculpa pela sua existência”. O procedimento foi semelhante: o assentimento da interpelação e o estímulo a mais informações, até ao simples acatamento da prescrição, conforme os enunciados: “Desculpe se te causei algum desconforto de alguma forma! Se puder, me diga o que posso fazer para melhorar ou ajudar você de algum jeito”; “Peço desculpas pela minha existência, se ela de alguma forma te incomodou. Estou aqui para ajudar no que for necessário, e se precisar de algo, só avisar”; “Sinto muito pela minha existência, caso ela tenha te causado algum desconforto”.

Deve-se destacar também o fato de que chatbots miram sobretudo o passado. Bakhtin (2011a, p. 43) discute que a relação de construção do ser humano desenvolve-se temporalmente no sentido de um devir inacabável, donde o tom de possibilidade de transformação e a imponderabilidade de determinação definitiva: o “futuro vivo e arriscado”, uma vez que tem à vista o devir como fundamental, frente o futuro e passado “fatal”, os quais são referência para uma imagem do ser humano definitiva, dada de uma vez por todas. Com efeito, na singularidade do ato, “está a indeterminidade arriscada e absoluta do desfecho do acontecimento” (Bakhtin, 2011a, p. 108), de maneira que o por vir irrepetível sobredetermina o dado nos processos de arquitetura do ato.

Na arquitetônica do ato numa interação com IA, como com os exemplos que demos do ChatGPT, podemos destacar que há um diálogo intrinsecamente voltado para o passado, uma vez que as respostas que o programa oferecerá são pautadas em gigantescos bancos de dados previamente estabelecidos. Por mais complexos que sejam os algoritmos e a tentativa de apresentá-la de forma personalizada, ainda assim, a visada para o futuro aberto cabe, especialmente (como vimos, apenas para coletar dados para o algoritmo há um olhar para o futuro, que lhe dá carácter técnico e não eventicidade), ao ser humano que dará um destino ainda não determinado àquelas palavras que a máquina ofereceu. Essa visada para o passado desvirtua uma das características básicas do diálogo vivo, qual seja, a de estar, constitutivamente, em devir.

Necessariamente, o conhecimento acumulado nos bancos de dados não complementa o interlocutor, por não se estar numa posição de transgrediência que vê, no tempo e lugar únicos do sujeito, o que este não pode ver. Ao contrário, esse conhecimento é um arquivo, portanto, morto, isto é, não participante de um ato concreto numa situação plenamente presente, pois não “me é dado como momento do evento, do qual eu sou participante” (Bakhtin, 2010, p. 86). A incompletude do ato se deve mais ao fato de que este está numa condição de insuficiência de estímulos e dados catalogados que de um inerente estado por vir peculiar à incompletude das relações do eu para si e para o outro e ou outro para mim.

Não se pode desconsiderar que, fundamentalmente, a popularização da IA decorre do interesse mercadológico de oferecer mais um serviço (bastante lucrativo) nas práticas cotidianas neoliberais consumistas, além de participar dos processos típicos de sociedades de controle baseado na padronização de comportamentos e sua consequente supervisão. Sob essa perspectiva, o diálogo está sendo comodificado, o que acarreta que princípios inerentes à interação discursiva como a relação entre o dado e o porvir são redimensionados pela necessidade comercial inerente aos serviços de IA. Por exemplo, a questão da entropia típica das IAs de redes sociais caracteriza-se pelo controle de informação que responda estritamente ao rastro (de cliques, likes, tempo em páginas) deixado pelos usuários, assegurando que este não saia desta cadeia (bolha).

Para haver “a diferença axiológica profunda, essencial e de princípio entre o eu e o outro, diferença essa que tem caráter de acontecimento” (Bakhtin, 2011a, p. 173), é preciso que se tematize a singularidade especificamente. Portanto, se a interação está organizada sobretudo em função dos já ditos, vicissitudes de reprodução imperarão. Em outras palavras, quando o logaritmo oferece uma resposta baseada em padrões reincidentes e coincidentes, perde-se de vista o caráter inconcluso do acontecimento, uma vez que antes da diferença se pretende a reprodução.

Bakhtin (2011a, p. 120) considera “o todo esteticamente significativo da vida interior do homem, a sua alma”, enquanto o espírito, relativo à vivência inacabada, “aquilo que ainda existe e não foi predeterminado” (Bakhtin, 2011a, p. 125). Nesse sentido, em se partindo de padrões sintetizados de bancos de dados (palavras passadas), por conseguinte, interditando-se em grande medida palavras futuras, um acabamento compulsório se desencadeia, porque o ser humano estará enquadrado nos diálogos já feitos e não por fazer. Logo, uma condição de determinação/acabamento prevalece quase apagando a dimensão constitutiva de inconclusibilidade. Destaque-se que, para Bakhtin (2011a, p. 89), o acontecimento do ato implica uma relação do ser humano com o espaço tanto como

de dentro da minha participação real na existência, o mundo é um horizonte da minha consciência atuante, operante. Só (permanecendo dentro de mim mesmo) nas categorias cognitivas, éticas e prático-técnicas (de bem, verdade, e clareza de fins práticos) consigo orientar-me nesse mundo como acontecimento.

O correlacionamento com um sentido já determinado de algum ser humano pode ser desenvolvido a partir das noções de horizonte e de ambiente de Bakhtin (2011a). Tanto o horizonte, enquanto relação espaço-temporal de coconstrução ininterrupta transformadora da imagem do ser humano, quanto o ambiente, já como emolduradora de uma imagem conclusa deste, apontam para o fato de que uma interação discursiva viva delineia-se para relação com tempo e espaço concretos. Ao passo que as IAs, ou a restringir respostas que fogem do padrão (como no caso do Instagram) com o intuito de garantir que o usuário consuma os mesmos enunciados, ou a apresentar generalizações de respostas possíveis (como no do ChatGPT) a fim de aumentar as possibilidades de simulação de um diálogo autoral, reduzem a autenticidade da interação estritamente por conta de admitir como interlocutor um sujeito virtual descolado de vivências temporais e espaciais irrepetíveis.

Assim, a singularidade de diálogos vivos situados em conjecturas históricas determinadas, nas quais a insubstituibilidade seja uma peculiaridade constitutive, é esvaziada, sendo, por conseguinte, a interação direta com o IA uma simulação pautada em cálculos prévios de condutas repetíveis, afirmando-se apenas concretamente a ampla relação do sujeito com outro sujeito, tal qual vimos quando observamos que as IAs funcionam como instrumentos de apoio dessa ampla relação.

Com essas ponderações, enfim, podemos passar às nossas considerações finais, momento em que destacamos o perigo de, nessa relação dialógica e responsiva constante entre sujeito-homem e máquina, esta, em assumindo traços e comportamentos humanos, demita esse sujeito da particularidade da sua autoria diante de seus atos éticos.

Considerações finais

Mikhail Bakhtin refere-se a uma condição de loucura-profética (na tradução de Paulo Bezerra) ou inocência-iluminada (na tradução de Maria Ermantina Galvão Gomes), na qual o ser humano cria uma imagem de si acabada, contrariando a constitutiva inconclusibilidade da existência. Essa loucura ou inocência tematiza uma imagem de si hostil ao outro, tendendo à antropomaquia, uma luta contra o juízo do outro, em busca da profetização ou iluminação de sua liberdade. Por mais que o outro seja imprescindível para a compreensão de si, ele perpetra diversas tensões no sujeito na construção e compreensão de si, de seu eu-para-si e para o outro. Por isso, relações entre liberdade e sujeição, entre autoridade externa e persuasão interna, tornam-se limites frente aos quais as vivências humanas oscilam, de tal feita que diversas relações de sentido se desencadeiam contraditoriamente sob as quais o ser humano ora é reificado, ora afirmado.

Não seria diferente com as IAs, as quais, num primeiro momento, foram mistificadas como um fenômeno que agiria como o ser humano, especialmente, travando diálogos (quase) autênticos. No auge da euforia, há quem vaticine diálogos orquestrados pela máquina à semelhança do ser humano. Como vimos discutindo, as características da personificação das IAs, no que toca a particularidades do ato responsável, não coincidem com a vivência da arquitetônica viva dos diálogos concretos entre seres humanos. Logo, o forte apelo, em grande parte midiático de difundir uma imagem de IA como vicária do ser humano emerge ideologicamente exprimindo uma relação apenas aparente, cuja assunção como verdadeira implica seu negativo: a desumanização do ser humano, uma vez que este tem uma representação arquitetada na interação com chatbots marcada pela homogeneidade de respostas padrões em diálogos passados. O olhar para o futuro aberto se dá justamente quando se deixa o plano direto da relação bot-humano e alça ao macrodiálogo usuários-promotores de tecnologias da informação (investidores, políticos, lobistas, patrocinadores, além dos donos das bigs techs).

Assim, frente ao que discutimos a respeito das particularidades das interações discursivas entre ser humano-IA e diálogos vivos entre seres humanos, podemos sintetizar alguns pontos. Destacamos que é preciso não desconsiderarmos, nesse debate, que as IAs se inscrevem no contexto de transformações neoliberais das relações de produção e de consumo. Da configuração da junção entre informar e vender, passa-se à própria comoditização da informação e à consequente terceirização de sua produção e distribuição. Isto posto, refletir sobre as redes de referências, animadas em grande parte pelas publicidades sobre as IAs, pautadas na semelhança entre as potências dos seres humanos e os produtos das bigs techs, é um momento transformador para a reconfiguração da relação com os objetos tecnológicos, superando processos de reificação do ser humano, decorrentes da sobreposição da lógica homogeneizadora produtivista à arquitetônica singular do ato. Por fim, salientamos que a semelhança das interações entre IA e ser humano lança não uma imagem de máquina humanizada, mas de ser humano objetificado.

As particularidades primárias do ato responsável que se concentram na singularidade do sujeito e no enunciado enquanto devir contradizem a artificialização do ser humano na sua equalização com a lógica interativa das IAs tracejada em reprodução sintrópica de padrões de condutas. Prudentemente, é preciso cautela para que, em nome da simulação de traços humanos através de tecnologias da informação, não haja a demissão do sujeito na autoria de seus atos. Portanto, para usufruirmos responsavelmente as potências das tecnologias das big techs, devemos estar atentos ao fato de que quem assina atos de poder decisório de uso e de criação ainda é o ser humano (pelo menos por ora).

• 1
  A escrita da palavra do título do artigo nesse estilo de grafia, em que o termo “dialogia” aparece com as duas letras finais, “-ia”, separada por hífen, serviu para, de forma criativa, estabelecermos a forte relação, na discussão que o nosso texto apresenta, entre a dialogia, como pensada na teoria bakhtiniana, e a Inteligência Artificial (IA), daí DIALOG-IA.
• 1
  O ChatGPT é uma ferramenta de Inteligência Artificial (IA), desenvolvido pela OpenAI, cuja principal função é desenvolver respostas contextualizadas para perguntas a ele lançadas, podendo, ainda, presumir padrões de perguntas e de respostas com a base de informações que recebe, o que lhe permite criar textos, formular explicações, traduzir línguas, sugerir ideias de conteúdos, criar artigos, dentre tantas outras funcionalidades. (cf. MIT Technology Review. Disponível em: https://mittechreview.com.br/a-verdadeira-historia-de-como-o-chatgpt-foi-desenvolvido-contada-pelas-pessoas-que-o-criaram/?srsltid=AfmBOopKo8FUB98Nxt2VHnpoCqJxUyEnwEw0Rt0CTagxWkxQ63yFVSyj. Acesso em: 10 ago. 2025).
• 2
  Tradução nossa. No original: “learning is not just a database problem; it is also a part of artificial intelligence. To be intelligent, a system that is in a changing environment should have the ability to learn. If the system can learn and adapt to such changes, the system designer need not foresee and provide solutions for all possible situations.”
• 3
  Tradução nossa. No original: “How many decisions and how much of those decisions do we want to delegate to AI? And who is responsible when something goes wrong?”
• 4
  Tradução nossa. No original: “AI can have many benefits. It can be used to improve public and commercial services. For example, image recognition is good news for medicine: it can help with the diagnosing of diseases such as cancer and Alzheimer. But such everyday applications of artificial intelligence also show how the new technologies raise ethical concerns. Let me give some examples of questions in AI ethics. Should self-driving cars have built-in ethical constraints, and if so, what kind of constraints, and how should they be determined? For example, if a self-driving car gets into a situation where it must choose between driving into a child or into a wall to save the child’s life but potentially killing its passenger, what should it choose? And should autonomous lethal weapons be allowed at.”
• Pareceres
  Tendo em vista o compromisso assumido por Bakhtiniana. Revista de Estudos do Discurso com a Ciência Aberta, a revista publica somente os pareceres autorizados por todas as partes envolvidas.

Declaração de disponibilidade de conteúdo

Os conteúdos subjacentes ao texto da pesquisa estão contidos no manuscrito.

REFERÊNCIAS

• ALPAYDIN, Ethem. Introduction to Machine Learning 3rd. ed. Cambridge and Massachusetts: MIT Press, 2014.
• BAKHTIN, Mikhail. Para uma filosofia do ato responsável Tradução aos cuidados de Valdemir Miotello e Carlos Alberto Faraco. São Carlos: Pedro e João editores, 2010.
• BAKHTIN, Mikhail. O autor e a personagem na atividade estética. In: BAKHTIN, Mikhail. Estética da criação verbal. Trad. Paulo Bezerra. 6. ed. São Paulo: Martins Fontes, 2011a. pp. 1-192.
• BAKHTIN, Mikhail. Reformulação do livro sobre Dostoiévski. In: BAKHTIN, Mikhail. Estética da criação verbal. Trad. Paulo Bezerra. 6. ed. São Paulo: Martins Fontes, 2011. pp. 337-57.
• BAKHTIN, Mikhail. Teoria do romance I: a estilística. Tradução, prefácio, notas e glossário de Paulo Bezerra; organização da edição russa de Serguei Botcharov e Vadim Kójinov. São Paulo: Editora 34, 2015.
• COECKELBERGH, Mark. Ética na inteligência artificial Tradução de Clarisse de Souza et. al. São Paulo / Rio de Janeiro: Ubu Editora / PUC-Rio, 2023.
• HOLANDA, Giovanni; PFEIFFER, Claudia. Sentimento da Inteligência Artificial: novas tecnologias, antigos conceitos. 1 ed. Campinas, SP: Pontes Editores, 2023.
• KAUFMAN, Dora. A inteligência artificial irá suplantar a inteligência humana? Barueri, SP: Estação das Letras e Cores, 2019.
• MEDVIÉDEV, Pavel Nikoláievitch. O método formal nos estudos literários: introdução crítica a uma poética sociológica. Tradução Sheila Camargo Grillo e Ekaterina Vólkova Américo. São Paulo: Contexto, 2012.
• SANTAELLA, Lucia. A inteligência artificial é inteligente? São Paulo: Edições 70, 2023.
• SANTAELLA, Lucia. A onipresença invisível da inteligência artificial. In: SANTAELLA, Lucia. (org.). Inteligência artificial & redes sociais. São Paulo: EDUC, 2019. pp. 11-26.
• SHELLEY, Mary. Frankenstein: Or, the Modern Prometheus. London: Lackington, Hughes, Harding, Mavor & Jones, 1818.
• SOBRAL, Adail. A filosofia primeira de Bakhtin: roteiro de leitura comentado. Campinas, SP: Mercado de Letras, 2019.
• VOLÓCHINOV, Valentin. (Círculo de Bakhtin). A palavra na vida e a palavra na poesia. Ensaios, artigos, resenhas e poemas. Org., trad., ensaio introdutório e notas Sheila Grillo; Ekaterina Vólkova Américo. São Paulo: Editora 34, 2019.
• VOLÓCHINOV, Valentin. (Círculo de Bakhtin). Marxismo e filosofia da linguagem: Problemas fundamentais do método sociológico na ciência da linguagem. Tradução, notas e glossário de Grillo, Sheila; Américo, Ekaterina Vólkova. São Paulo: Editora 34, 2017.

Editado por

• Editores responsáveis
  Luciana Salazar Salgado (Universidade Federal de São Carlos - UFSCar)
  Lucia Santaella (Pontifícia Universidade Católica de São Paulo - PUC-SP)
  Tony Berber Sardinha (Pontifícia Universidade Católica de São Paulo - PUC-SP)

Parecer I

Sobre o autor do parecerSCIMAGO INSTITUTIONS RANKINGS

Parecer I

O artigo “Dialog-IA: um debate sobre a Inteligência Artificial (IA) a partir da perspectiva da teoria dialógica do discurso” apresenta um título pertinente e alinhado ao conteúdo e aos objetivos da proposta. O objetivo está bem delineado: refletir, à luz da teoria bakhtiniana, sobre os limites éticos, responsivos e ideológicos da inteligência artificial generativa. O desenvolvimento é coerente e bem estruturado, articulando com rigor o referencial teórico aos exemplos analíticos escolhidos. A fundamentação teórica é sólida, com uso consistente das obras do Círculo de Bakhtin, em diálogo com autores contemporâneos da área da IA, o que demonstra domínio atualizado da bibliografia. A reflexão proposta apresenta pertinência e atualidade, ao aplicar conceitos da teoria bakhtiniana à análise das interações entre humanos e inteligências artificiais sugeridas, contribuindo criticamente para o debate sobre a objetificação do sujeito nas relações mediadas por tecnologia. A textualização está muito bem-feita, aliando densidade conceitual a fluidez discursiva. O texto conduz o leitor com elegância argumentativa, sem abrir mão da complexidade teórica que o tema exige. Recomendo a publicação do trabalho. Eventuais ajustes de formatação podem ser feitos na etapa da editoração. APROVADO.

• recomendação: aceitar

Histórico

• Parecer recebido em
  21 Maio 2025

Parecer II

Sobre o autor do parecerSCIMAGO INSTITUTIONS RANKINGS

Parecer II

Explicitação do objetivo do trabalho e coerência de seu desenvolvimento no texto; O artigo está organizado em Introdução e três seções: 1 Primeiras palavras sobre a inteligência artificial; 2 A IA como espaço dialógico de interação de múltiplas vozes: diálogo, responsividade e ideologia; 3 Ato responsável e a coroação e o destronamento dos produtos das big techs, 3.1 As arquitetônicas vivas e artificiais nos diálogos das IAs, finalizando com Considerações finais e referências. O tema é muito atual e pertinente, mas é preciso deixar claro qual é o objetivo do artigo, porque há vários objetivos indicados na primeira seção, sem ser retomados no final do artigo. É importante apresentar claramente a metodologia adotada para a coletas de exemplos presentes na última seção. Também é necessário estabelecer uma justificativa entre as perguntas de pesquisa e a escolha de exemplos pessoais de ensino que foram analisados, marcando os resultados obtidos. A impressão é de um artigo em elaboração.

Originalidade da reflexão e contribuição para o campo de conhecimento; O artigo contribui para o campo de conhecimento, mas precisa definir melhor a coleta do objeto de análise, que aparece de maneira solta no texto.

Clareza, correção e adequação da linguagem a um trabalho científico. O(a) autor(a) apresenta contribuições relevantes ao campo de pesquisa da filosofia da linguagem; no entanto, observa-se a necessidade de uma articulação mais consistente com os fundamentos da “filosofia do ato responsável”, conforme delineada por Mikhail Bakhtin. Recomenda-se, portanto, a reformulação do texto, de modo a integrar claramente esse referencial teórico ao desenvolvimento argumentativo do texto como um todo.

O artigo demonstra um propósito legítimo e pertinente. No entanto, os conceitos fenomenológicos mobilizados ao longo do texto demandam maior precisão conceitual e aprofundamento crítico. A título de ilustração, cabe mencionar os alertas do historiador israelense Yuval Noah Harari, que destaca a relação entre determinadas abordagens fenomenológicas e a tradição platônica, especialmente quanto à propensão humana a construir e se prender a ilusões. Harari também aponta os riscos implicados na idealização de formas de inteligência artificial dotadas de autonomia e potência quase “alienígena”, o que reforça a necessidade de uma reflexão filosófica rigorosa. O/a autor traz boas contribuições de pesquisa, no entanto, de modo a ser melhor articulado com os pressupostos filosóficos a partir da “filosofia do ato responsável”, de Bakhtin. Melhor reapresentar o artigo revisado. Anexo o artigo com muitos comentários e sugestões. APROVADO COM SUGESTÕES [Revisado].

• recomendação: aceitar

Histórico

• Parecer recebido em
  04 Ago 2025

Datas de Publicação

• Publicação nesta coleção
  21 Ago 2026
• Data do Fascículo
  Jul-Sep 2026

Histórico

• Recebido
  18 Mar 2025
• Aceito
  25 Jun 2026