Krzemowe mózgi mają władzę nad naszą świadomością (Forum IAB 2016)
•Download as PPTX, PDF•
0 likes•46 views
O tym jak boty i zautomatyzowana komunikacja już teraz i w najbliższej przyszłości mogą wpłynąć na nasze odbieranie świata. Spojrzenie z roku 2016, gdy eksplozja AI jeszcze nie nastąpiła... a już było widać kłopoty.
Recommended
Recommended
More Related Content
Featured
Featured (20)
Krzemowe mózgi mają władzę nad naszą świadomością (Forum IAB 2016)
- 1. Jak wybrać 45 najlepszych prezentacji na FORUM? Joanna Komuda, IAB Polska Krzemowe mózgi mają władzę nad naszą świadomością Mikołaj Machowczyk, Jacek Karolak K2
- 2. Rok temu „krakaliśmy” o algorytmach…
- 3. Dziś postraszymy czym innym
- 4. Tak, krzem udaje białko
- 5. Na boty już „łapią się” nawet studenci politechniki!
- 6. Skala tego zjawiska chyba nas już przerasta… Źródło: Incapsula „Global Bot Traffic Report 2015”
- 7. Źródło: Distil Networks „The 2016 Bad Bot Landscape Report”
- 8. …bo nie wiemy że problem istnieje
- 9. Dlaczego się na to nabieramy? My, istoty inteligentne…
- 10. …bo online nie mamy kontaktu fizycznego
- 12. …bo efekt ELIZY
- 13. ...bo nasze rozmowy są często przewidywalne
- 15. Do czego to doprowadziło? Tradycyjna rozmowa Media Digital
- 16. A może digital wygląda tak? Jacek Mikołaj Boty
- 17. Można sterować naszymi opiniami Każdy uścisk dłoni to głos A jeśli jedna osobista konwersacja na Messengerze to pół głosu, to…
- 18. Można „umasowić poglądy” Boty już tworzą automatycznie teksty… …same je mogą promować w social media… …same komentować i odpowiadać na komentarze
- 19. Eksperyment: 120 botów na Twitterze Po miesiącu 70% nie wykrytych przez system Twittera Automatyczne interakcje z innymi użytkownikami zgromadziły prawie 5 tysięcy followerów
- 22. No dobra, ale jak coś jest nagrane, to jest prawdziwe…
- 23. Czy boty są złem?
- 26. A co jeśli bot zacznie z nami rozmawiać o życiu?
- 27. Zmiana podejścia do relacji?
- 30. Xiaoice Prowadzi wielowątkową rozmowę Nie jest przewidywalna w odpowiedziach Żartuje i jest na bieżąco z popkulturą Monitoruje stan emocjonalny rozmówcy Współczuje i potrafi się zakłopotać Bywa niecierpliwa i złości się Potrafi mieć silną, odmienną opinię
- 31. 26% ludzkich odpowiedzi 40 mln użytkowników ~25% Conversations Per Session Emotional computing – relationships are more profound than task completion
- 32. I co z tym zrobić?
- 34. Pilnujmy granicy człowiek-bot! 1. Jawna identyfikacja rozmówcy 2. Nie personifikujmy bota 3. Jawne wskazanie autora treści (bot/człowiek) 4. Wyznaczenie botom etycznych norm działania i swobody wypowiedzi
- 35. Albo damy się kompletnie zmanipulować botom… …albo stracimy zaufanie do komunikacji w digitalu.
Editor's Notes
- Rok temu mówiliśmy o krwiożerczych algorytmach i potem wiele z poruszanych tematów pojawiło się w mediach. Mówiliśmy o etyce algorytmów w autach autonomicznych i parę dni później były o tym artykuły. Mówiliśmy, że niedługo algorytm nas osądzi i parę tygodni temu była informacja, że superkomputer Watson już pracuje w jednej z kancelarii w USA nad sprawami o upadłości. Pokazaliśmy też slajd, którego miało nie być, bo mieliśmy nie odwoływać się do filmów sci-fi, ale okazało się że rozwiązanie Pre-Crime już zostało w USA przetestowane.
- Dlatego dziś od razu pokażemy slajd, którego miało nie być. Tak, test na to czy twój rozmówca jest robotem jest już teraz przydatny. W Blade Runnerze był to test wymyślony, ale my naprawdę takiego potrzebujemy. Na razie do komunikacji online, ale dalsze problemy już czekają za rogiem.
- Boty, bo o nich będziemy mówić to nowy trend, który teraz nabiera tempa. Automaty potrafią już coraz lepiej udawać ludzi. Zobaczmy na ten case: interaktywny fanpage, na którym możemy rozmawiać z Miss Piggy. Oczywiście wiadomo, że wszyscy wiemy że to zabawa, ale firma która tworzyła bota Miss Piggy twierdzi, że tak samo można będzie za chwilę udawać dowolnego celebrytę. Wszystko po to, aby ludzie mieli wrażenie, że z każdym taki celebryta rozmawia 1-na-1. Testowali to na czacie z jednym z członków zespołu One Direction na komunikatorze Kik. Z 90 tys uczestników czatu ok 10-15% nie podejrzewało niczego. To kilkanaście tysięcy ludzi, którzy wierzą że rozmawiali z artystą. Teraz firma pracuje, aby ta proporcja była odwrotna.
- Nawet mądrzy ludzie łapią się na to bez problemu. Tu mamy bota, który został stworzony przez profesora robotyki (a jakżeby inaczej). Bot odpowiadał na te pytania studentów, na które szacował że ma szansę odpowiedzieć trafnie – inne kierował do asystentów. Studenci się nie zorientowali przez długi czas.
- Wydaje się że to jednostkowe przypadki, ale tylko dlatego, że nie patrzymy całościowo na boty. Około 50-60% ruchu w sieci robią ludzie. Reszta to robota botów. Boty skanują treści pod wyszukiwarki, zakładają fałszywe konta na serwisach, testują działanie stron www, próbują się włamywać. W statystykach tego nie widzimy, bo Google Analytics to odsiewa, ale zjawisko istnieje.
- Zresztą nawet część ruchu traktowanego jako ludzie to też boty, bo spora ich część jest pisana tak, aby udawały człowieka i często im się to udaje. Tak więc już dziś patrząc na statystyki www pomyślcie, że na pewno wśród użytkowników są też uwzględnione takie mądre automaty.
- A skala botów jest tak duża, bo ich na co dzień nie zauważamy, nawet jeśli się z nami komunikują. Poszukajcie w sieci, ile już powstało poradników, jak odróżnić bota od człowieka na serwisach randkowych – tam jest to już problem masowy.
- Jak to się stało, że stoimy u progu takiego problemu? Przecież boty nie od dziś są obecne w sieci.
- Online nie mamy bezpośredniego kontaktu z drugą stroną, więc trudniej nam nabrać podejrzeć co do tożsamości drugiej strony. Używamy tylko zmysłu wzroku, czytając tekst, więc nie możemy weryfikować tego wzrokiem patrząc np. na mowę ciała. Jest takie pojęcie jak Uncanny Valley (tu tłumaczymy krótko o co chodzi). W przypadku komunikacji 100% już dawno pojawiły się rozwiązania, które na tyle udają człowieka, że w ogóle nie zauważamy że coś jest nie tak. Roboty ze świata fizycznego mają jeszcze trochę do tego etapu.
- Z założenia, gdy widzimy jakieś treści, to uważamy że stoi za nimi człowiek. Ktoś, kto miał cel i motywację aby stworzyć jakiś przekaz i go udostępnić. A to dlatego, że zawsze tak było i zawsze tak robiliśmy. Wcześniejsze pokolenia nie miały nigdy takiej sytuacji, więc nie jesteśmy nauczeni, aby podejrzewać, że cokolwiek pisanego powstało nie z ręki człowieka.
- ELIZA effect https://en.wikipedia.org/wiki/ELIZA_effect
- W digitalu najczęściej miejsce w którym się wirtualnie spotykamy od razu narzuca temat rozmowy, więc większość konwersacji da się przewidzieć i zautomatyzować. Np. na Tinderze i serwisach randkowych jest mnóstwo botów-kobiet i są rzadko wykrywane, bo rozmowy są bardzo proste, a ewentualne przerwanie rozmowy też nikogo nie dziwi. Podobnie wygląda to w serwisach sklepów online, czy na stronach firm.
- To jest ten moment, gdy postraszymy. Pokażemy, do czego to może doprowadzić, jeśli rewolucja botów pójdzie nie w tym kierunku co trzeba.
- Tradycyjnie informacje przekazywaliśmy sobie 1-1 lub w małych grupach. Gdy nastała powszechność mass mediów, nagle jednostki mogły komunikować się (jednostronnie) z masami i w ten sposób wpływały na zmiany światopoglądu Dzięki komunikacji online teraz każdy może rozmawiać z każdym. To taki oczywisty model, który każdy pewnie widział na różnych mądrych slajdach o mediach.
- Ale my tylko widzimy, że rozmawia wielu użytkowników między sobą i widzimy, że wiele osób rozmawia z nami online. Czy wiemy na pewno, że za tą grupę nie kryje się jedna osoba, która chce nas w ten sposób do czegoś przekonać?
- Przypominam case czatu z One Direction – teraz wyobraźmy sobie, że polityk zaczyna uczestniczyć w dyskusjach online. A właściwie jego bot. Jeśli nie zauważmy, że to bot, to budujemy sobie do niego zaufanie. Jeden uścisk ręki to głos, więc pewnie jedna prywatna wymiana zdań online to pół czy ćwierć głosu. Ale prywatną wymianę zdań można robić automatycznie dzięki botom.
- W ten sposób grupa botów może szerzyć konkretne poglądy, a my możemy je uznać za powszechnie wyznawane. Czy to nie nowoczesna forma propagandy najgorszego sortu? Nazizm wzrósł w siłę dzięki mediom (radio się wtedy rozwinęło) a teraz mamy nowe narzędzie: masowe udawanie oddolnych opinii.
- Ten eksperyment tego dowiódł: 120 botów, większość nie wykryta przez Twittera jako boty, zgromadziły w miesiąc 5 tysięcy widzów. I można zaczynać małą kampanię…
- Stąd jakiś czas temu pojawił się postulat, aby politycy deklarowali, że nie użyją botów w kampanii. Śmiesznie brzmi? A oto screen z twittera z obecnej kampanii prezydenckiej – Donald Trump ewidentnie generuje sobie wsparcie botami o latynoskich nazwiskach. Kontrowersyjny kandydat jest odrzucany przez ludzi, więc pokazując że już ma jakieś poparcie w sieci, zmniejsza dysonans tych którzy się wahają.
- To ma nazwę – warto zapamiętać to słowo. Grassroots (prawdziwe korzenie trawy) to oddolne opinie. Astroturf (sztuczna trawa) to sztucznie tworzone opinie oddolne.
- Jeśli myślicie, że tylko tekst się tak łatwo manipuluje, to co powiecie na to? Wystarczy nagrać kilkunastosekundowe wystąpienie jakiejś osoby, aby automatycznie zmieniać tej osobie wyraz twarzy czy ruch ust i wkładać w usta tej osoby dowolne reakcje i słowa. Już niedługo nawet rozmawiając przez Skype nie będziemy mieć pewności, czy to nie bot.
- Boty funkcjonalne http://motherboard.vice.com/read/i-cant-wait-to-get-all-my-content-from-a-chatbot-carles Albo przytoczyć case study Stanuscha https://www.chatbots.org/
- Boty funkcjonalne http://motherboard.vice.com/read/i-cant-wait-to-get-all-my-content-from-a-chatbot-carles Albo przytoczyć case study Stanuscha https://www.chatbots.org/
- Co stanie się z pokoleniem ludzi, którzy nawiązują szerokie relacje online, zwłaszcza w kontekście towarzyskim? Czy trafiając często na boty nie skrzywią swojej psychiki i czy będą potrafili nawiązać prawdziwe relacje z prawdziwymi ludźmi? http://girlswhodatecomputers.tumblr.com/
- Film „Her” opowiada historię mężczyzny, który zakochuje się w bocie konwersacyjnym.
- W Chinach Microsoft obecnie przeprowadza największy na świecie test Turinga. Xiaoice to bardzo zaawansowany chatbot o osobowości 17 letniej dziewczyny dostępny przez najpopularniejsze chińskie platformy socialowe. http://nautil.us/issue/33/attraction/your-next-new-best-friend-might-be-a-robot http://www.nytimes.com/interactive/2015/07/27/science/chatting-with-xiaoice.html https://www.hpematter.com/childhood-issue/rise-of-chatbots-what-it-means-for-business http://uk.businessinsider.com/microsoft-xiaoice-turing-test-in-china-2016-2 [zwrócić uwagę na aspekt psychoterapeutyczny – AI jest dostępny 24/7, powoduje że ludzie czują się lepiej] Coming soon to English speaking world as TAY.AI
- W Chinach Microsoft obecnie przeprowadza największy na świecie test Turinga. Xiaoice to bardzo zaawansowany chatbot o osobowości 17 letniej dziewczyny dostępny przez najpopularniejsze chińskie platformy socialowe. http://nautil.us/issue/33/attraction/your-next-new-best-friend-might-be-a-robot http://www.nytimes.com/interactive/2015/07/27/science/chatting-with-xiaoice.html https://www.hpematter.com/childhood-issue/rise-of-chatbots-what-it-means-for-business http://uk.businessinsider.com/microsoft-xiaoice-turing-test-in-china-2016-2 [zwrócić uwagę na aspekt psychoterapeutyczny – AI jest dostępny 24/7, powoduje że ludzie czują się lepiej] Coming soon to English speaking world as TAY.AI
- W Chinach Microsoft obecnie przeprowadza największy na świecie test Turinga. Xiaoice to bardzo zaawansowany chatbot o osobowości 17 letniej dziewczyny dostępny przez najpopularniejsze chińskie platformy socialowe. http://nautil.us/issue/33/attraction/your-next-new-best-friend-might-be-a-robot http://www.nytimes.com/interactive/2015/07/27/science/chatting-with-xiaoice.html https://www.hpematter.com/childhood-issue/rise-of-chatbots-what-it-means-for-business http://uk.businessinsider.com/microsoft-xiaoice-turing-test-in-china-2016-2 [zwrócić uwagę na aspekt psychoterapeutyczny – AI jest dostępny 24/7, powoduje że ludzie czują się lepiej] Coming soon to English speaking world as TAY.AI
- Make bots not apps Jesteśmy przed rewolucją botów Róbmy boty funkcjonalnej Ale pamiętajmy o emocjonalnej stronie – nie nabierajmy https://botfamily.com/ Jest już dużo botów Jest dużo mechanizmów do dewelopowania swoich botów Messenger otworzył swoją platformę Mikowska będzie o tym mówić http://www.pandorabots.com/
- A robiąc boty, już teraz zastanówmy się, jak je oznaczyć. Skoro product placement wymaga ostrzeżenia, to czemu nie bot? Warto oznaczyć, że na pytania odpowiada automat, oznaczyć treści które nie są autorskie, tylko są kompliacją automatu. Ale najtrudniejsze to ten boty, które nadchodzą – te emocjonalne. W ich przypadku trzeba będzie wyznaczać pewne normy etyczne i granice swobody wypowiedzi. Nie będzie dobrze, jeśli bot będzie nas namawiał do samobójstwa albo gdy będzie wpływał na nasze poglądy…
- Jeśli nie zaczniemy teraz rozwiązywać takich problemów, gdy mamy proste boty funkcjonalne, to potem będzie za późno. Albo mądrzejsze boty będą nami masowo manipulować, albo stracimy zaufanie do komunikacji w digital, bo nie będzie można ufać w tym medium nikomu. A chyba nadal chcielibyśmy przychodzić na Forum IAB?
- Dziękujemy i pamiętajcie, aby od dziś rozglądać się uważnie w sieci, zastanówcie się gdzie mogą się do was odzywać boty, jak się z tym czujecie. Wtedy nie przekroczycie granicy gdy sami będziecie je tworzyć. A będziecie – od tej zmiany nie ma odwrotu.