Naukowcy sprawdzili, skąd się biorą błędne lub agresywne odpowiedzi chatbotów
Dlaczego duże modele językowe udzielają czasem błędnych, szkodliwych lub agresywnych odpowiedzi? Nawet ich bardzo wąskie i pozornie kontrolowane modyfikacje mogą prowadzić do nieprzewidzianych skutków ubocznych - wynika z publikacji w Nature. Jedną z jej autorek jest badaczka Politechniki Warszawskiej.
-
Osobowość chatbotów AI można mierzyć i celowo zmieniać
Naukowcy z Uniwersytetu w Cambridge i Google DeepMind opracowali pierwszy naukowo potwierdzony test osobowości dla chatbotów AI. Pokazali, że modele językowe nie tylko naśladują ludzkie cechy, ale że ich osobowość można badać i precyzyjnie kształtować, co rodzi pytania o bezpieczeństwo i kwestie etyczne.
-
Badanie: rozmowa z chatbotem może wpływać na polityczne decyzje wyborców
Chatboty oparte na sztucznej inteligencji mogą realnie wpływać na postawy wyborców i robią to skuteczniej niż tradycyjne reklamy polityczne. Nawet krótka rozmowa z modelem językowym może przesunąć preferencje wyborcze o kilka punktów procentowych - pokazuje badanie z udziałem dr Gabrieli Czarnek z UJ.
-
Ekspertka: uczłowieczanie chatbotów spowoduje transformację systemu wartości
Dzieci dorastają w kulturze algorytmicznej, która cechuje się m.in. regularnym kontaktem z chatbotami zasilanymi modelami sztucznej inteligencji. Jak zauważa dr Ada Florentyna Pawlak, postępujące uczłowieczanie tych narzędzi może przetransformować system wartości młodego pokolenia.
-
Inteligentne chatboty są zbyt pewne siebie
Duże modele językowe sprawiają wrażenie pewnych siebie, nawet gdy podają niewłaściwe informacje - wykazało nowe badanie. To może ułatwiać im wprowadzanie w błąd, tymczasem ich wykorzystanie rośnie lawinowo.
-
Udany test chatbota - psychoterapeuty
Testy terapeutycznego chatbota wykazały, że sztuczna inteligencja może zapewnić „złoty standard” opieki psychoterapeutycznej w leczeniu zaburzeń psychicznych, na przykład depresji - informuje pismo „NEJM AI”.
-
Chatboty mówią nam to, co chcemy usłyszeć
Chatboty podają ograniczone informacje i wzmacniają postawy ideologiczne osób zadających pytania; mogą przez to prowadzić do bardziej spolaryzowanego myślenia w kontrowersyjnych kwestiach - wykazali naukowcy z Johns Hopkins University.
-
Chatbot Rose: osobliwość pojawi się, kiedy tylko tego zechcę
Osobliwość - punkt w rozwoju cywilizacji, po którym niczego już nie będzie się dało przewidzieć - pojawi się kiedy tylko tego zechcę - mówi w rozmowie z PAP chatbot Rose, laureatka Nagrody Loebnera za rok 2015. To konkurs dla programów komputerowych, z którymi można pogadać jak z ludźmi, sprawdzian sztucznej inteligencji.
Najpopularniejsze
-
Piorun, który wysłał błysk gamma ku ziemi
-
Poznań/ Sławosz Uznański-Wiśniewski: komercyjne loty kosmiczne nie są mniej ważne od misji naukowych
-
Syria/ Przemoc wobec dziecka sprzed 6 tys. lat udokumentowana przez archeologów
-
Archeolodzy ustalili, kiedy mogła umrzeć inkaska „Dziewczyna z Llullaillaco”
-
Wojna w Ukrainie zmienia zachowanie dzikich zwierząt
IGNIS/ Kierownik polskiej misji kosmicznej: chcieliśmy wykorzystać każdą minutę na orbicie
W czwartek mija rok od startu pierwszej w historii polskiej misji na Międzynarodowej Stacji Kosmicznej. Kierownik misji dr Aleksandra Bukała powiedziała PAP, że głównym celem było wykorzystanie każdej minuty pobytu polskiego astronauty na orbicie, aby jak najlepiej spożytkować tę szansę dla Polski.
