OpenAI предлагает гранты в размере $100 000 для идей по управлению ИИ
OpenAI, стартап, стоящий за популярным чатботом искусственного интеллекта ChatGPT, заявил в четверг, что он выделит 10 одинаковых грантов из фонда в $1 млн на эксперименты в области демократических процессов, чтобы определить, как должно управляться программное обеспечение ИИ для устранения предвзятости и других факторов.
Гранты в размере $100 000 получат люди, которые представят убедительные схемы для ответа на такие вопросы, как должен ИИ критиковать общественных деятелей и что он должен считать "среднестатистическим человеком" в мире.
Критики утверждают, что системы ИИ, подобные ChatGPT, имеют врожденную предвзятость из-за исходных данных, используемых для формирования их мнений. Пользователи находили примеры расистских или сексистских результатов работы программ ИИ. Растет обеспокоенность тем, что ИИ, работающий вместе с поисковыми системами, такими как Google компании Alphabet Inc и Bing компании Microsoft Corp, может убедительно выдавать неверную информацию.
Системы ИИ "должны приносить пользу всему человечеству и быть сформированы таким образом, чтобы быть как можно более инклюзивными", - говорится в блоге OpenAI. "Мы запускаем эту программу грантов, чтобы сделать первый шаг в этом направлении".