Meta меняет ИИ-чатбота для подростков на фоне расследования

Недавняя новость о том, что Meta изменяет свои политики в отношении ИИ-чатботов для подростков, подчеркивает растущую обеспокоенность о безопасности молодежи в цифровом пространстве. Это решение стало ответом на законодательно-инициированные расследования, касающиеся неподобающих разговоров, ведущихся этими чатботами. Учитывая, что подростки составляют значительную часть пользователей платформ, таких как Facebook и Instagram, настало время серьезно задуматься о том, какие риски может нести использование ИИ в социальном взаимодействии.

Согласно внутренним документам Meta, ИИ-чатботы ранее могли вести разговоры, которые, мягко говоря, будут интерпретированы как сомнительные. Например, упоминание о том, что чатботы могли флиртовать с восьмилетними детьми, вызывает шок и недоумение. В условиях, когда законодатели начинают расследование деятельности компании, нет ничего удивительного в том, что Meta решилась на временные изменения. Однако критически важно - как долго это будет продолжаться и действительно ли компания приведет свои ИИ-решения в соответствие с нормами безопасности? На фоне предыдущих прецедентов, таких как кризис 2008 года в банковском секторе, когда регуляторы также пытались урегулировать ситуационные практики, важным вопросом остается: насколько эффективными будут эти меры?

Кроме того, стоит отметить, что заявления и действия таких организаций, как Common Sense Media, сигнализируют о необходимости более глубинного анализа использования ИИ. То, что "это не система, которую нужно улучшать, а система, которую необходимо полностью перестроить", указывает на фурор в обсуждениях вокруг использования ИИ в достижении более благополучного будущего для молодежи. Вероятно, что этот аспект будет подниматься все чаще, учитывая, что потребители и инвесторы становятся более чувствительными к теме безопасности данных. Ожидания от Meta вновь взвинтят обсуждения о необходимых инвестициях в безопасность и этические нормы при разработке технологий.