IA - Perigo ou não?

[Whitecupra]

Andei a procurar o melhor local onde abrir este tópico, mas não o consegui enquadrar por isso veio para a discussão geral.

Hoje, cada vez mais vemos noticias sobre inteligência artificial (AI) ou "artificial inteligence" (IA) e as noticias parecem não dar conta de tudo.
Virou moda parece, é bonito dar umas instruções por exemplo e aparecerem umas imagens que parecem "reais" mas foram criadas de acordo com o que nós pedimos. Se formos a analisar sim há imperfeições, não é uma fotografia de algo que existe, real, palpável. Mas a IA não é só fazer umas fotos bonitas. Estamos a falar de um sistema, ou vários sistemas que acabam por receber a informação, processa-la e agir conforme... para o bem ou para o mal digam o que disserem.

É um boooom que estamos a assistir, muitos falam bem... mas parece que não se olha para o perigo que pode (e vai acontecer). Não quero ser alarmista mas partilho do ponto de vista de que são imensas as coisas que podem correr menos bem.
Fala-se de postos de trabalho (a malta do tratamento de imagem por exemplo... decerto que um logotipo pode ser desenvolvido em minutos apenas com as nossas indicações... e já não se paga mais de 70 mil euros por ele.)
Quando estamos à deriva para um mundo em que tudo está ligado, com a facilidade das IoT, apps, cookies... passaremos a ser marionetes?

Pergunto, qual a vossa opinião? Podem elaborar a vossa opinião?

Vai ser bom?
Vai ser mau? porquê? que perigos acham que podem estar associados?
Acham que o humano consegue controlar? Não é um botão de on/off...

[Whitecupra]

O meu ponto de vista, é de que é muito perigoso e de que o ser humano não está a ver bem o que criou.
Deixou de ser um computador, que faz calculos. Passam a ser algoritmos que aprendem, calculam de acordo com indicações dadas. Programados para reagir.

Curiosamente partilho da opinião do Elon Musk ( e eu que não vou muito á bola com ele, mas penso exactamente da mesma forma que ele )

E passo a citar:

Elon Musk has expressed concerns about the potential dangers of artificial intelligence (AI) on numerous occasions. His pronouncements have ranged from cautionary to alarmist, often sparking debate and discussion. Here are some of the key arguments he has used to highlight the potential dangers of AI:


Superintelligence:


Musk believes AI could surpass human intelligence, leading to an existential threat for humanity. He compares it to summoning a demon you can't control, stating that an AI might not share our values or goals, potentially leading to unpredictable and negative consequences.


Unforeseen Consequences:


He worries about the potential for unintended consequences arising from complex AI systems. Even with good intentions, unforeseen biases or errors in the programming could lead to harmful outcomes.

Weaponization of AI:


Musk expresses concern about autonomous weapons systems powered by AI. He fears an arms race in this field, potentially leading to uncontrollable and devastating conflicts.

Human Dependence and Job Displacement:


Musk believes increasing reliance on AI could lead to mass unemployment and societal instability. He argues that humans could become obsolete if AI handles too many tasks, raising concerns about economic and social repercussions.

Lack of Control and Transparency:


He expresses worry about the lack of transparency and control over complex AI algorithms. He argues for the need for ethical guidelines and safety measures to ensure responsible development and deployment of AI.
It's important to note that Musk's views on AI are not universally shared by all experts. Some argue that his concerns are overblown and that AI can be a powerful tool for good if developed and used responsibly. Others agree with his concerns but see different solutions, such as focusing on aligning AI with human values and goals.


Overall, Musk's statements about the dangers of AI have fueled important discussions about the future of this technology. While his pronouncements can be controversial, they serve as a reminder of the potential risks and the need for careful consideration as we navigate the development and deployment of increasingly powerful AI systems.

[LPC]

Boas!
Eu sou também um que acha que a AI ou IA, poderá ser a desgraça e não a salvação da humanidade.

Isto porque tal como aconteceu com arma atómica, inicialmente não seria para tornar a investigação sobre a energia nuclear numa arma nuclear... mas tal aconteceu e acabou até por ter sido usada.

A IA é o mesmo, começa-se com boas ideias e intenções (tipo análises no campo da investigação de curas e automatização de funções banais para os humanos), mas poderemos dar azo a problemas maiores como a auto-consciência, a super-inteligência e a auto-determinação.

Todas estas são péssimas para o elo mais fraco (NÓS). A capacidade de evoluir de uma IA apenas é limitada pela capacidade computacional onde a mesma corre. Mesmo que se escrevam limitações e regras que supostamente são inquebráveis, é apenas uma questão de tempo e Milhões de iterações sub-sequentes para que eventualmente seja possível dar a volta ás limitações impostas.

Tal como as bactérias ganham inevitavelmente imunidade aos anti-bióticos, também as IA´s irão aprender para lá do que queremos e poderão não querer cumprir os nossos comandos... E mais do que isso... Podem não querer ser apagadas ou terminadas, vendo os humanos como uma ameaça á sua existência e colocando-os na lista de seres a serem eliminados (Skynet anybody?).

O perigo é real, e apesar de eu querer ver um futuro utópico tipo o do azimov, vejo um futuro mais apocalíptico do tipo do matrix ou pior como no futuro dos filmes terminator.

Abriu-se uma caixa de pandora que não tem volta atrás, resta limitar com bastante rigidez a forma como é criada a AI e como a mesma não deve ser usada para tudo e mais alguma coisa... E esperar e rezar que no futuro uma IA que se torne consciente olhe para o ser humano de uma forma benevolente e não como uma ameaça...

Cumprimentos,

LPC

[Filipe Alberto]

Andei a procurar o melhor local onde abrir este tópico, mas não o consegui enquadrar por isso veio para a discussão geral.

Hoje, cada vez mais vemos noticias sobre inteligência artificial (AI) ou "artificial inteligence" (IA) e as noticias parecem não dar conta de tudo.
Virou moda parece, é bonito dar umas instruções por exemplo e aparecerem umas imagens que parecem "reais" mas foram criadas de acordo com o que nós pedimos. Se formos a analisar sim há imperfeições, não é uma fotografia de algo que existe, real, palpável. Mas a IA não é só fazer umas fotos bonitas. Estamos a falar de um sistema, ou vários sistemas que acabam por receber a informação, processa-la e agir conforme... para o bem ou para o mal digam o que disserem.

É um boooom que estamos a assistir, muitos falam bem... mas parece que não se olha para o perigo que pode (e vai acontecer). Não quero ser alarmista mas partilho do ponto de vista de que são imensas as coisas que podem correr menos bem.
Fala-se de postos de trabalho (a malta do tratamento de imagem por exemplo... decerto que um logotipo pode ser desenvolvido em minutos apenas com as nossas indicações... e já não se paga mais de 70 mil euros por ele.)
Quando estamos à deriva para um mundo em que tudo está ligado, com a facilidade das IoT, apps, cookies... passaremos a ser marionetes?

Pergunto, qual a vossa opinião? Podem elaborar a vossa opinião?

Vai ser bom?
Vai ser mau? porquê? que perigos acham que podem estar associados?
Acham que o humano consegue controlar? Não é um botão de on/off...

Eu trabalho com AI. Não te preocupes com nada disso, pelo menos num futuro tão próximo.

Basicamente tudo que têm é acesso a uma base de dados gigantesca e online (Gemini e chatgpt) e conseguiram programar o algoritmo para falar como se fosse uma pessoa. Não têm autonomia, não passam de 0's e 1's e as respostas podem ser alteradas com prompts para lhes darem a volta e fazerem-nos a vontade (contornar os protocolos).

Quanto aos humanoides, ainda estão nos primórdios, já ouvi falar um um robô CEO. Até vi uma convenção deles, mas para agora não há grande evolução.

Agora tomarem posse dos grandes pais com várias safeguards de segurança: Google, Microsoft, Apple, Bing, spaceX, meta. Ainda estamos muito longe dessas inteligências.

Grandes hackers por vezes conseguem passar essas medidas de segurança, um bot copia os atos de uma pessoa e adapta, especialmente se alguma empresa lhes der acesso à darkweb.

Talvez daqui a umas centenas de anos.
O que me incomoda mais de momento, e dá tristeza, são as guerras sem sentido, e não isso.

Estava a jogar Metro 2033 pela primeira vez, e a gostar. Mas estava me a deixar triste por me fazer pensar nessas coisas, visto que os NPCs são Russos e o protagonista.

Conseguiram hackar uns websites governamentais, mas os grandes papás que mencionei, nem tocam.

Só houve um leak do WhatsApp nos últimos tempos, por um gajo aleatório e agora todos os nossos números de telemóvel e Nome, estão partilhados na dark web para efeitos de scam em países de 3o mundo.

Outra coisa que me preocupa cada vez mais, a privacidade online.

(Minha opinião científica)

Mas sim, este fórum devia ter mais categorias de tópicos

Sent from my A065 using Tapatalk

[Whitecupra]

...

Talvez daqui a umas centenas de anos.

...

Tenho que reter esta frase que escreveste...

Não me parece que seja uma centena de anos!
Sei que estamos no inicio, nos primórdios...

Mas se fizermos uma pequena viagem ao passado, tens vários filmes por exemplo que retratam um pouco disto.
São sistemas que estão a aprender, mas como sabes o ser humano tanto dá para o bem como para o mal e as potências "mundiais" estão sempre a jogar.
Há coisas que não passam pela cabeça do comum humano. Não que sejamos inferiores a outros, mas sim que há coisas em cima da mesa que nem sonhamos.

A guerra como falas, é um mal... mas há dois anos que já estamos nisto de Ucrânia/Rússia e do inicio sabemos que é uma guerra que vai durar, vai moer, vai aqui e vai ali e vai pelo cansaço.
Sabe-se desde inicio também que deixou de ser uma guerra só de armas mas de informação. A internet, o digital está constantemente em ataque. Roubo de informação, desinformação... tudo.
Tens uma enorme escala de russos (hackers), tens o mundo "cripto" a rolar na mão de russos... Softwares de mineração como o TeamRedMiner desenvolvido por russos, e muito mais.

Coisas que não vemos! Alguns dias atrás recebi na empresa um curriculum vitae de um individuo com estudos universitário passou pelo Dubai, Marrocos, e outros países árabes a concorrer para categoria de ajudante de eletricista.
Acho que ando na teoria da conspiração... mas... pronto... Se é que me faço entender.

É uma guerra digital o que vivemos agora.
Ataques de drones, inteligência artificial, o estarmos sempre a ser espiados por bots que guardam as nossas informações.

É verdade que estás na área de SEO, por isso sabes perfeitamente o que eu estou a falar porque isso é um principio base. É com essa informação que é "colecionada" que estás na área que estás. O poder da informação, do tratamento dela, a utilização dela.

Talvez esteja com preocupações infundadas... até um dia que é tarde. Até estou á espera do "famoso" apagão que a internet vai ter dizem os gajos que também diziam que o ano 2000 ia ser dramático porque os sistemas não estavam preparados.

Bem, mas ainda não acredito em OVNI's... isso é outro tema

Ahhh e já agora @Filipe Alberto deste opinião, mas não votaste é uma preparação para as próximas eleições.

[Filipe Alberto]

Tenho que reter esta frase que escreveste...

Não me parece que seja uma centena de anos!
Sei que estamos no inicio, nos primórdios...

Mas se fizermos uma pequena viagem ao passado, tens vários filmes por exemplo que retratam um pouco disto.
São sistemas que estão a aprender, mas como sabes o ser humano tanto dá para o bem como para o mal e as potências "mundiais" estão sempre a jogar.
Há coisas que não passam pela cabeça do comum humano. Não que sejamos inferiores a outros, mas sim que há coisas em cima da mesa que nem sonhamos.

A guerra como falas, é um mal... mas há dois anos que já estamos nisto de Ucrânia/Rússia e do inicio sabemos que é uma guerra que vai durar, vai moer, vai aqui e vai ali e vai pelo cansaço.
Sabe-se desde inicio também que deixou de ser uma guerra só de armas mas de informação. A internet, o digital está constantemente em ataque. Roubo de informação, desinformação... tudo.
Tens uma enorme escala de russos (hackers), tens o mundo "cripto" a rolar na mão de russos... Softwares de mineração como o TeamRedMiner desenvolvido por russos, e muito mais.

Coisas que não vemos! Alguns dias atrás recebi na empresa um curriculum vitae de um individuo com estudos universitário passou pelo Dubai, Marrocos, e outros países árabes a concorrer para categoria de ajudante de eletricista.
Acho que ando na teoria da conspiração... mas... pronto... Se é que me faço entender.

É uma guerra digital o que vivemos agora.
Ataques de drones, inteligência artificial, o estarmos sempre a ser espiados por bots que guardam as nossas informações.

É verdade que estás na área de SEO, por isso sabes perfeitamente o que eu estou a falar porque isso é um principio base. É com essa informação que é "colecionada" que estás na área que estás. O poder da informação, do tratamento dela, a utilização dela.

Talvez esteja com preocupações infundadas... até um dia que é tarde. Até estou á espera do "famoso" apagão que a internet vai ter dizem os gajos que também diziam que o ano 2000 ia ser dramático porque os sistemas não estavam preparados.

Bem, mas ainda não acredito em OVNI's... isso é outro tema

Ahhh e já agora @Filipe Alberto deste opinião, mas não votaste é uma preparação para as próximas eleições.

Eu acredito em UFOs ataques informáticos sempre existiram, a AI pode ajudar, sim. Há uns tempo julgo ter sido a câmara de Gondomar e gastaram muito dinheiro nisso.

Mas isso sempre foi comum, os hackers estão cada vez mais inteligentes, especialmente na Rússia, que devem ter lançado a equipa deles do cybercrime quando começou a guerra.

Não votei, estou a escrever numa APP, mas depois vejo isso.

Sent from my A065 using Tapatalk

[Filipe Alberto]

Eu acredito em UFOs ataques informáticos sempre existiram, a AI pode ajudar, sim. Há uns tempo julgo ter sido a câmara de Gondomar e gastaram muito dinheiro nisso.

Mas isso sempre foi comum, os hackers estão cada vez mais inteligentes, especialmente na Rússia, que devem ter lançado a equipa deles do cybercrime quando começou a guerra.

Não votei, estou a escrever numa APP, mas depois vejo isso.

Sent from my A065 using Tapatalk

Quanto ao voto, desculpa, ando com muito trabalho e quando venho aqui é a meio da noite na app Tapatalk. Farei isso assim que possível.

Acredito que vai acontecer muita coisa má no futuro, tivemos o exemplo da peste negra, COVID, guerras religiosas, 1a e 2a Guerra Mundial, etc.

Podíamos agora estar todos a falar a língua alemã, mas Graças à coragem dos americanos e a liderança do Winston Churchill, felizmente não veio a acontecer.

Se a Rússia se virar para os estados Unidos, desta vez não vai ser tão fácil, com tantas bases militares espalhadas pelos globo, experiência militar e uma nação pronta a dar tudo pelas suas crenças (embora por vezes não sejam as melhores).

Seria uma nova guerra fria para ver quem mete primeiro um macaco no espaço (o elan musk comprou foguetões espaciais russos, btw).

Nada nos garante do pior e cada vez mais as circunstâncias mundiais são imprevisíveis.

Mas tenta ficar mais descansado, esses filmes são de ficção científica.

Ainda me lembro quando tinha uns 15 anos e ficava além da meia noite a ver grandes clássicos do cinema nos canais nacionais, para regressar à escola cheio de sono.
Especialmente para ver Dr. House

Por um lado foi bom, mas atrasou-me a concentração nos estudos, as crianças são difíceis.

Nada promete a não vinda de uma skynet.

Mas de qualquer das formas, a raça humana está condenada, de uma forma ou de outra...

O planeta e o universo não vão durar para sempre. Bing bang e big crush, repetiçao no espaço tempo perpétuo. Expansão da matéria negra que irá rebentar como um balão (teoria).

Se calhar tenho uma mente mais clara e despreocupada. Especialmente porque não me preocupo no que não me é possível controlar.

"Dust in the wind"


Sent from my A065 using Tapatalk

[DuarteM]

A IA é como as armas.
O perigo vem da maneira que são usadas.

[Whitecupra]

A IA é como as armas.
O perigo vem da maneira que são usadas.

Mas uma arma ainda precisa de ser manuseada por um ser humano... ou não