Вы возможно читали недавнее открытое письмо ряда известных бизнесменов, среди которых и Маск и Возняк с призывом об остановке разработки проектов в сфере AI, как представляющих потенциальную опасность для человечества. Если нет, тут можно почитать его в оригинале.
Сейчас много обсуждений того, как AI “сбежит” и попытается устроить всему человечеству судный день. В следующем посте опишу одну из версий. Представители компаний-разработчиков, в том числе OpenAI активно обсуждают эти темы и заверяют, что все будет ок. Но есть идея, что за обсуждением сценариев Скайнета, которые, скорее всего, не сильно реалистичны в ближайшие пару лет, кроются более актуальные и насущные проблемы.
Среди них:
- защита авторских прав на датасеты, которые используются при тренировке ИИ;
- плагиат и фейк ньюс;
- этические проблемы;
- большие энергозатраты при обучении AI.
Comments