«Отцы машинного обучения» выразили полное несогласие с тем, как развивается ИИ

Ричард Саттон — профессор в Университете Альберты. Барто — заслуженный профессор Массачусетского университета. Они занимаются обучением с подкреплением — это метод обучения ИИ, при котором система учится на основе приобретаемого опыта и оценки результатов.

Саттон и Барто крайне критически отзываются об OpenAI, Google и других компаниях за выпуск потенциально опасного ПО, такого как ChatGPT. Учёные считают, что ChatGPT создан прежде всего для коммерческой выгоды и является «машиной для зарабатывания денег, которая никогда не создаст работающий искусственный интеллект общего назначения» (ИИОН).

Обучение с подкреплением, разработанное Саттоном и Барто в 1980-х годах, является одной из основных парадигм машинного обучения. Этот метод учит ИИ-агентов принимать решения, основываясь на пробах и ошибках, чтобы достичь оптимальных результатов, подобно тому, как учатся люди. OpenAI, Google и другие компании строят свои платформы искусственного интеллекта на основе обучения с подкреплением.

По словам Барто, здравая инженерная практика предполагает, что разработчики стремятся смягчить негативные последствия использования технологий. Однако ни OpenAI, ни другие компании, ориентированные на ИИ, этого не делают. Учёный отметил, что нынешние модели ИИ совершают ошибки, «с бинарной уверенностью галлюцинируя» несуществующие «факты», но компании, стоящие за ними, собирают миллиарды долларов в ходе беспрецедентных кампаний по финансированию.

«Идея иметь огромные центры обработки данных, а затем взимать определённую сумму за использование программного обеспечения мотивирует людей, и это не тот мотив, на который я бы согласился», — заявил эксперт.