Автопилотът на Uber разпознал пешеходката, но въпреки това не спрял

Uber публикува първите резултати от вътрешното разследване на смъртоносното пътнотранспортно произшествие, при което на 18 март автономен кросоувър на компанията за споделено пътуване прегази и уби пешеходка в гр. Темпи, щата Аризона. Инцидентът привлече общественото внимание, тъй като е първият документиран случай на смърт в катастрофа с безпилотен автомобил.

Данните от паметта на бордовата електроника показват, че изкуственият интелект е идентифицирал безпогрешно човека на пътното платно, но въпреки това е взел решение да игнорира опасността. Водачът-изпитател Рафаела Васкес (първоначално името бе обявено като Рафаел, но се оказва, че от Uber са наели транссексуален мъж, който вече е жена) пък изобщо не е успяла да реагира.

От видеозаписите става ясно, че по време на фаталния инцидент жертвата Илейн Хърцбърг е пресичала платното на непозволено място, бутайки велосипеда си, а Рафаела се е вторачила в телефона си. Според разследващите обаче събитията се случват толкова бързо, че дори и опитен шофьор с отлични реакции надали би могъл да спре навреме - Илейн се появява пред тестовото Volvo XC90 внезапно от сенките.

От Uber отбелязват, че в поведенческите алгоритми на изкуствения интелект, който управлява автономните коли, са заложени сценарии за игнориране на мними опасности като петна на пътното платно, летящи найлонови торбички, падащи листа и т.н. Системата обаче е разпознала жертвата като човек и въпреки това не е предприела нищо, за да избегне фаталния сблъсък.

Дали инцидентът е резултат от грешки в алгоритъма, саботаж или друг пропуск ще се изяснява тепърва. Управляващият софтуер на автономните автомобили се самообучава и коригира заложените поведенчески сценарии, като "опитът" на отделните тестови коли се обединява в обща база данни и се актуализира във всяка от тях.