Digiday #17 - Fakenews v době AI

Created by Jindřich Zdráhal

Prezentace k mému příspěvku na Digiday #17 Prezentace (s výjimkou materiálů 3. stran) je dostupná pod licencí WTFPL. V případě potřeby mi napište buď tady přes OrgPad a nebo na jindra.zdrahal@gmail.com

Fakenews v době AI

Záznam celého vysílání DigiDay

Tento příspěvek začíní někdy kolem 1:46:00

Falešné citáty

Reflex - 4 slavné citáty, které jejich údajní autoři nikdy nevyslovili 

Novinky - Nevěřte všemu, co najdete na internetu, říkal už Masaryk

Zvonění v Brně

V Brně zvoní "poledne" už v 11. hodin!

Boj o rukopisy

Spor o rukopisy - Rukopis královédvorský a Rukopis zelenohorský

Fotomontáže?

_{By Author disputed, but was originally published under the claimed authorship of Robert Kenneth Wilson. Image from Daily Mail., Fair use, https://en.wikipedia.org/w/index.php?curid=196634}

Fakenews nejsou až tak moc nové

Naprosto luxusní popis toho, co je to Dezinformace od Martina Malého a vůbec nevadí, že tento článek vyšel už před lety:

https://den1.cz/anatomie-dezinformace/

A ještě jeden super článek od stejného autora:

https://den1.cz/problem-bezplatnych-dezinformaci-31ca3c/

V dnešní době je to ale daleko jednodušší!

texty

ChatGPT a ostatní LLM

• https://chat.openai.com/
• https://bing.com/chat

generativní AI umí tvořit a měnit

upravím existující

Úprava webů a výroba screenshotů

vygeneruji si falešný příspěvek

Například

https://codebeautify.org/fake-instagram-post-generator

Co na to říká ChatGPT?

Jakým způsobem je možné zneužít umělou inteligenci k výrobě fake news?

Umělá inteligence (AI) může být bohužel zneužita k výrobě fake news různými způsoby. Je důležité podotknout, že tato diskuse má pouze informační charakter a nepodporuje ani neodkazuje k takovým neetickým aktivitám. Některé z metod, jak lze AI využít k vytváření fake news, zahrnují:

1. Generování textu: Pokročilé modely AI jako ChatGPT mohou být vyškoleny k generování věrohodně vypadajících zpráv, které mohou být zavádějící nebo zcela nepravdivé.
2. Deepfake videa a audio: AI může být použita k vytváření falešných videí nebo audiozáznamů známých osobností, které vypadají a zní přesvědčivě. Tyto deepfakes mohou být použity k šíření dezinformací nebo k poškození reputace jednotlivců.
3. Zkreslení obrázků: AI může být využita k úpravě nebo manipulaci obrázků tak, aby podporovala určité narativy.
4. Automatizované šíření: S pomocí botů může být AI využita k automatizovanému šíření dezinformací na sociálních médiích, čímž se zvyšuje jejich viditelnost a dopad.
5. Cílená reklama: AI může být použita k analýze demografických údajů a preferencí uživatelů, což umožňuje efektivní doručení falešných zpráv konkrétním skupinám lidí, u nichž je pravděpodobnější, že jim uvěří nebo je dále šíří.
6. Simulace zpětné vazby: AI může být použita k vytváření falešných reakcí, komentářů nebo hodnocení, aby se zdálo, že daný obsah je populární nebo věrohodný.

Je důležité být vždy kritickým a opatrným při konzumaci obsahu online. Verifikace informací z více zdrojů a používání nástrojů na detekci falešného obsahu může pomoci identifikovat a odhalit fake news.

obrázky | fotky

obličeje

www.thispersondoesnotexist.com

Generování obrázků

https://www.canva.com

https://www.bing.com/chat

https://playgroundai.com

https://playgroundai.com/

_{https://www.facebook.com/photo/?fbid=1570456336699597&set=pcb.1570456576699573}

Nahrazení části obrázku

Pavel Hodál  - Canva, umělá inteligence a učitel s lahví vína

Kromě Canvy a třeba Photoshopu to umí i  některé generativní AI pro tvorbu obrázků. Ale jsou i jednorázové nástroje.

Odstranění pozadí - https://www.remove.bg/

Odstranění objektu - https://cleanup.pictures/

Klonování hlasu

Klonování lidského hlasu s pomocí AI

Gott navždy

Video je ze zmiňovaného článku Klonování lidského hlasu s pomocí AI od e-bezpečí.cz

video

https://www.d-id.com/

https://app.clipchamp.com/

ale třeba i Canva

Fakt to může být problém?

Některé poslední kauzy

• Novinky - Nahé fotky nezletilých dívek ze španělského města vytvořila umělá inteligence. Vyšetřuje to policie
• Daniel Dočekal - Trochu zapeklitá složenka na 96 419,- Kč.
• Deník N - Nahrávka novinářky Tódové o manipulaci voleb je podvod
• Seznam Zprávy - Nahota všude. Robot už dokáže svléknout každou ženu, obrana neexistuje

Co s tím?

Další naprosto brilantní článek od Martina Malého:

https://den1.cz/problem-potlaceni-dezinformace/

Nedůvěřovat

Nastolení důvěry

Člověk v tísni - Etický kodex a pravidla pro využití nástrojů umělé inteligence člověkem v tísni

Ověřovat

Některé nástroje, které mohou pomoct

https://fotoforensics.com/ - ověřování jestli se s obrázkem nemanipulovalo

https://pimeyes.com/en - zajímavý vyhledávač osob podle obrázku

Nové aplikace AI pro boj proti fakenews.

FactNinja - nová aplikace od Kamila Kopeckého a e-bezpečí.

Myslet

• Myslet,
• být tolerantní,
• být připravený si přiznat, že jsem se spletl a že všechno může být jinak.

A co školy? Společnost? Stát?

Musíme lidi vzdělávat a vést k tomu, že:

1. nemají takové věci dělat,
2. mají být připraveni, že něco takového může nastat a jak se pak chovat.

Anotace

Fakenews, dezinformace a "kreativní nakládání s pravdou" jsou tady už hodně dlouho.

Zeptejte se třeba Brňáků, proč se u nich zvoní "poledne" o hodinu dřív.

Na druhou stranu, dnešní doba – doba AI, dává všem do rukou technické prostředky, díky kterým lze velmi jednoduše vytvořit "alternativní pravdu" na takové úrovni, že se za chvíli nebudeme moct spolehnout ani na své vlastní oči a uši.

Dá se s tím něco dělat? Jakou roli by v tom mohla hrát škola? technologie? společnost?

Obrana proti deep fake

Deepfake útoky silně na vzestupu. Co to je a jak je poznat?

Generativní umělá inteligence výrazně mění náš pohled na informace. Čemu budeme věřit? A jak ovlivní např. volby?

DEEPFAKE 2024: Obranná strategie pro české firmy

Licence a kontakt

Prezentace k příspěvku "Fakenews v době AI"na Digiday #17

Prezentace (s výjimkou materiálů 3. stran) je dostupná pod licencí WTFPL.

V případě potřeby mi napište buď tady přes OrgPad a nebo na jindra.zdrahal@gmail.com