Соучредитель компании Anthropic, занимающейся искусственным интеллектом, заявил, что развитие искусственного интеллекта нельзя оставлять исключительно на усмотрение технологических компаний, призвав к усиленному контролю со стороны религиозных лидеров, правительств и гражданского общества. Крис Олах сделал эти замечания ранее на этой неделе во время презентации первой энциклики папы Льва, в которой рассматриваются вызовы, связанные с искусственным интеллектом.
Призыв к моральной ответственности
В своей речи Олах подчеркнул «реальную возможность» того, что ИИ может привести к масштабной утрате рабочих мест. Он отметил, что если такой сценарий реализуется, поддержка пострадавших станет моральным императивом исторических масштабов. «Если это произойдет, поддержка потерявших работу станет моральным императивом исторических масштабов», — сказал канадец, сидя рядом с папой.
Конфликты интересов в разработке ИИ
Олах отметил, что компании, подобные Anthropic, сталкиваются с значительными коммерческими, геополитическими и личными давлениями, которые могут не совпадать с более широкими интересами общества. «Каждая ведущая лаборатория ИИ… работает внутри системы стимулов и ограничений, которые иногда могут противоречить правильным действиям», — сказал он. Эта реальность, по его мнению, подчеркивает необходимость внешнего контроля в сфере ИИ.
Уникальное положение Anthropic в Ватикане
Anthropic, основанная в 2021 году Олахом и другими бывшими сотрудниками OpenAI, является единственным представителем технологического сектора на мероприятии в Ватикане. Компания известна разработкой инструментов искусственного интеллекта Claude и открыто выступает за внедрение мер предосторожности, ограничивающих военное использование её моделей. Основатели покинули OpenAI из-за опасений, что компания развивается слишком быстро без достаточного тестирования.
Взаимодействие с религиозными сообществами
Отвечая агентству Reuters на вопрос о своем эксклюзивном приглашении от Ватикана, Олах объяснил это своей давней приверженностью безопасности ИИ и взаимодействием с различными религиозными сообществами. «В конечном итоге, решение о том, кого приглашать, принимает Ватикан», — заявил он, отметив, что в течение карьеры он сосредоточен на повышении безопасности систем ИИ и вел диалоги с представителями более 15 религиозных конфессий по этическим вопросам технологий искусственного интеллекта.
Этические вопросы вокруг ИИ
Олах приветствовал участие Католической церкви в обсуждении ИИ, заметив, что этические вопросы, которые поднимает технология, выходят далеко за рамки инженерных задач. Он признал растущую тревогу общества в отношении ИИ, особенно среди молодого поколения, и охарактеризовал нынешний момент как «страшный».
Скорость технологического прогресса
«Всё развивается очень быстро. Это действительно мощная технология», — отметил он, предупреждая, что быстрые темпы развития ИИ могут привести к негативным последствиям. Он призвал к коллективной ответственности, чтобы технология развивалась в положительном направлении.
Приоритеты в развитии ИИ
В своей речи Олах выделил три ключевые области, требующие срочного внимания: риск значительной потери рабочих мест, необходимость справедливого распределения благ от ИИ и проблемы, вызванные всё более сложным и непрозрачным поведением систем ИИ. Он выразил обеспокоенность концентрацией разработки ИИ в богатых странах, задав вопрос: «Как обеспечить глобальное распределение выгод от ИИ?»
Роль глобального сотрудничества
Заявления Олаха отражают растущее понимание в технологическом сообществе того, что сотрудничество между секторами необходимо для решения многоаспектных вызовов, стоящих перед ИИ. Проводя диалог, включающий разнообразные точки зрения, в том числе религиозных и представителей гражданского общества, индустрия может работать над решениями, выгодными для всего общества.
Взгляд в будущее
Слияние технологий и морали, иллюстрируемое этим событием в Ватикане, может сигнализировать о смене подхода компаний ИИ к своим обязанностям в ближайшие годы. По мере развития диалога растет необходимость создания регулирующей базы, которая балансировала бы инновации и этические соображения, подчеркивая важность внешнего контроля в управлении развитием ИИ.
