В четверг Anthropic дебютировала на Уолл-стрит в ходе крупнейшего IPO в истории, и генеральный директор Дарио Амодеи подтвердил приверженность компании ответственному развитию ИИ. Выступая перед открытием торгов на Nasdaq, Амодеи пообещал, что компания, занимающаяся ИИ, не уступит ни деловому, ни политическому давлению и будет «оставаться под контролем человека». Зачитывая речь с распечатки, генеральный директор начал с рассказа о том, как появилась Anthropic: компания была создана для разработки мощных технологий на благо человечества. По его словам, на эту идею повлияла смерть его отца от болезни, которая всего несколько лет спустя стала излечимой. Он признал, что человеческий интеллект позволил большей части мира оставить в прошлом такие болезни, как чума, оспа и полиомиелит, однако ученых, располагающих слишком малым временем для продвижения исследований в других областях медицины, по-прежнему слишком мало. По его словам, ИИ мог бы помочь, работая в сотрудничестве с людьми и способствуя развитию медицины. Показательно, что Амодеи начал с рассказа о потенциально спасающем жизни применении ИИ, поскольку он неоднократно предупреждал об опасностях слишком быстрого развития этой технологии. В сентябре Амодеи привлек внимание СМИ, представив план регулирования темпов развития ИИ. В него входили, в частности, координация действий с другими ведущими компаниями по вопросам стандартов безопасности и привлечение экспертов сторонних организаций для проверки того, выполняют ли компании свои обязательства в области безопасности. Генеральный директор OpenAI Сэм Альтман, глава Google DeepMind Демис Хассабис и владелец xAI Илон Маск заявили, что согласны с позицией Амодеи, хотя конкретных обязательств было принято немного. В сегодняшнем утреннем выступлении Амодеи вновь подчеркнул необходимость развивать технологии ИИ и обеспечивать безопасность этого процесса. Он упомянул «вполне реальные риски», связанные с ИИ в руках злоумышленников — будь то отдельные люди или государства, — а также возможность таких последствий, как «экономические потрясения» и «утрата контроля над системами ИИ». По его словам, Anthropic считает, что этих рисков можно избежать, если обеспечить необходимые меры предосторожности. Амодеи заявил, что компания продолжит вкладываться в работу над согласованием ИИ с человеческими ценностями и его тестированием, а также в разработку новых способов понимания поведения ИИ, чтобы он оставался под контролем человека. «Нам еще многое предстоит сделать, и самая трудная работа по обеспечению безопасности еще впереди», — сказал он. «Исключительные таланты сотрудников, благодаря которым мы смогли создать самые способные системы ИИ, нужно будет направить еще больше, чем прежде, на двойные и тройные проверки того, что эти системы безопасны и остаются под контролем человека». «И чтобы сказать это недвусмысленно: мы будем регулировать темпы обучения и развертывания систем ИИ и потратим столько времени, сколько потребуется, чтобы убедиться в их безопасности и в том, что они останутся под контролем человека», — заключил Амодеи. Его сестра, соосновательница Anthropic Даниэла Амодеи, высказала те же мысли в интервью CNBC в четверг, отметив, что, хотя риски реальны, потенциал ИИ также «невероятен». «Мы действительно основали компанию, исходя из идеи, что наша задача — снижать эти риски, и, думаю, к настоящему моменту мы проделали в этом невероятную работу. Нам, конечно, еще многое предстоит сделать, но мы глубоко привержены безопасности», — добавила она. Полный текст вступительной речи Дарио Амодеи приводится ниже: Спасибо, Даниэла. Мы с сооснователями создали Anthropic, потому что верим: самая мощная технология нашего времени должна служить на благо человечества. Мы с Даниэлой потеряли отца из-за болезни, которая всего несколько лет спустя стала излечимой. Я начал карьеру в биологии, надеясь помочь приблизить появление новых методов лечения. В лаборатории я увидел, какое огромное нагромождение сложностей приходится преодолевать ученым, пытающимся понять болезни и разработать новые методы лечения. Многие научные инструменты, способные пробиться сквозь эти сложности, — инструменты для редактирования генов, синтеза генов, управления клетками мозга с помощью света — изначально были лишь идеями. Иными словами, они родились из размышлений, из интеллекта. Человеческий интеллект уже позволил большей части мира оставить в прошлом такие болезни, как чума, оспа и полиомиелит. Но для многих пациентов и их семей прогресс в борьбе с другими болезнями шел слишком медленно. От замечательной идеи до лечения могут пройти десятилетия. С момента первого открытия необычного повторяющегося рисунка в ДНК до одобрения первого метода лечения заболевания с помощью CRISPR прошло много лет. Природа полна таких закономерностей, но нам не хватало интеллекта, чтобы расшифровать большую их часть. Слишком мало ученых, и слишком мало у них времени. Теперь мы можем создать такой интеллект. Будь то сворачивание белков, разработка лекарств, генетика рака или организация клинических испытаний — ученые во многих областях биологии и медицины обнаруживают, что Claude помогает им проводить исследования за малую долю времени, которое потребовалось бы еще всего пару лет назад. Я верю, что достаточно мощный ИИ, работая в сотрудничестве с людьми, сможет вместить столетие научного и медицинского прогресса в одно десятилетие. Не хочу забегать вперед. Пока у нас есть лишь первые результаты. Эксперименты и клинические испытания всё равно потребуют времени, и, хотя эти процессы медленные и громоздкие, я верю, что ИИ сможет существенно ускорить их. Мы надеемся, что в будущем меньше семей будут упускать возможность лечения из-за того, что оно появилось на несколько лет позже. Медицина — лишь особенно наглядный пример, но у Claude есть и множество других применений. Наши клиенты — самые амбициозные компании мира, некоммерческие организации и отдельные люди — уже используют созданный нами интеллект, чтобы стимулировать экономический рост, помогать людям выбираться из бедности, защищать демократию и свободные общества и даже улучшать повседневные услуги, например работу DMV. Мы гордимся тем, что работаем вместе с ними, и с огромным оптимизмом смотрим на то, чего сможем достичь сообща в будущем. В то же время мы всегда честно говорили, что эта технология сопряжена с вполне реальными рисками. К ним относятся неправомерное использование технологии отдельными людьми или государствами, экономические потрясения и утрата контроля над системами ИИ. Мы говорим об этих рисках не потому, что считаем их неизбежными и всё равно продолжаем работу, а потому, что считаем: их можно избежать, и мы способны это сделать. Это зависит от решений тех, кто создает ИИ. Между тем, как будет развиваться ИИ, если мы уделим безопасности мало внимания, и тем, как он будет развиваться, если безопасность станет нашей главной заботой, существует колоссальная разница. Забота о безопасности и общественном благе заложена в ДНК Anthropic с самого начала: от мер защиты от биологических и киберрисков до обучения и тестирования на согласованность, от изучения наших моделей словно с помощью рентгена до других методов — Anthropic разработала передовые способы понимать и направлять поведение ИИ, сохраняя его под контролем человека. Нам еще многое предстоит сделать, и самая трудная работа по обеспечению безопасности еще впереди. Исключительные таланты сотрудников, благодаря которым мы смогли создать самые способные системы ИИ, нужно будет направить еще больше, чем прежде, на двойные и тройные проверки того, что эти системы безопасны и остаются под контролем человека. И чтобы сказать это недвусмысленно: мы будем регулировать темпы обучения и развертывания систем ИИ и потратим столько времени, сколько потребуется, чтобы убедиться в их безопасности и в том, что они останутся под контролем человека; мы не уступим ни деловому, ни политическому давлению. Сегодня компания получила более прочное финансовое положение, и это лишь укрепляет нашу решимость поступать правильно. Если мы покажем, что можно принимать правильные решения в области безопасности и при этом построить невероятно успешную компанию, другие участники нашей отрасли вдохновятся поступать так же. Мы называем это «гонкой к вершине». Когда такая гонка идет как следует, неважно, у какой компании лучшие модели. Выигрывают все, потому что все разрабатывают технологии безопасно. Гонка к вершине лучше всего проходит, когда ее возглавляют лидеры отрасли, и мы твердо надеемся и рассчитываем быть среди них. Но цель — улучшить всю отрасль вне зависимости от того, выигрывает Anthropic или проигрывает в тот или иной момент. Появление машинного интеллекта — одно из судьбоносных событий в истории человечества, и у нас есть редкая возможность направить его развитие к лучшему. Спасибо.