Model nazwany Scientist AI ma być nową formą zaawansowanej AI, zaprojektowanej z myślą o bezpieczeństwie i wiarygodności. Kanada przeznacza na projekt 150 mln dolarów, a Niemcy – 100 mln euro (ponad 160 mln dolarów kanadyjskich) – poinformowali w środę kanadyjski minister AI i innowacji cyfrowych Evan Solomon i niemiecki minister transformacji cyfrowej Karsten Wildberger.

Nad Scientist AI pracuje montrealski startup LawZero, założony przez profesora Yoshuę Bengio, uważanego za jednego z ojców chrzestnych AI, pracującego właśnie w Montrealu. Celem jest stworzenie takiego modelu AI, który będzie koncentrował się na faktach, odróżniał je od opinii, będzie kreatywny, ale nie będzie w stanie samodzielnie tworzyć celów działań. Chodzi m.in. o przyśpieszenie badań naukowych, stworzenie metod nadzoru nad autonomicznie działającymi agentowymi AI oraz lepsze zrozumienie ryzyk związanych z AI i zapobieganie im.

Bengio powtarzał od lat, że AI bez nadzoru może doprowadzić do zagłady człowieka. W środę mówił, że chce „żeby jego dzieci i wnuki miały przyszłość” – cytowały media. Bengio podkreślił, że w miarę jak ryzyka związane z AI stają się coraz większe „priorytetem musi być tworzenie rozwiązań, które sprawiają, że ta technologia jest bezpieczna i dostarczają alternatywnych modeli, którym ludzie mogą ufać”

W poniedziałek premier Mark Carney zaapelował w wywiadzie dla Bloomberga o stworzenie światowej instytucji nadzorczej dla sektora AI, niezależnej od firm tego sektora.

Z Toronto Anna Lach(PAP)

lach/ sp/