catpad

В прошлой записи я порекомендовал текст https://ergosphere.blog/posts/the-machines-are-fine/ о том, какую опасность представляет ИИ для подрастающего поколения ученых, у которых возникает сильный соблазн поручать всю "grunt work" искуственному интеллекту, и в итоге они рискуют ничему не научиться. Текст мне понравился, потому что мне близка эта мысль и потому что там было несколько ссылок на другие интересные эссе (несколько их которых я тоже привел в моей прошлой записи). Что-то в этом тексте меня стилистически раздражало, но я не придал этому значения.

А вчера я наткнулся на детальный разбор этого текста с утверждением, что он целиком написан Клодом, и, более того, после этого специально подредактирован, чтобы сделать это менее заметным: https://boxobark.ing/3mj42airv3s2o. По-моему, очень убедительно. Не буду пересказывать, а в качестве рекламы скажу только, что, оказывается, там в одном месте внутри цитаты из "Дюны" тире заменено на точку с запятой. Автор исходного текста забанил автора разбора на Блюскае, что дополнительно добавляет убедительности. Ретроспективно понимаю, что то, что меня несколько раздражало, это как раз и были стилистические маркеры ИИ. Но на конкретные свидетельства того, что текст сгенерирован ИИ, о которых пишет boxobark.ing, я, когда читал, вообще не обратил внимания. Очень поучительно.

Сам автор boxobark.ing крайний ИИ-луддит, который считает, что от ИИ один вред и пользоваться ими нельзя вообще ни для чего и никогда. Кстати, наиболее популярный ответ на MathOverflow на вопрос о том, как следует аспирантам-математикам пользоваться ИИ (я писал об этом вопросе в прошлой записи; https://mathoverflow.net/questions/511255), состоит в том, что пользоваться ИИ им не стоит вообще никогда (автор -- математик Scott Carnahan, специалист по monstrous moonshine):

My advice to incoming graduate students is very simple: AI is the Trillion Dollar Zombie, and extended use is likely to lead to your brain being eaten. The Zombie feeds in small bites, so it can be hard to detect, but every time you offload your decision-making and analytical powers to the machine, you are letting it take a nibble.

У нас тут в работе возник некий математический вопрос, на который я не знал, как ответить. Вопрос такой: какое двумерное вероятностное распределение минимизирует матожидание (||x-y|| - 1)^2 для независимых x и y из этого распределения. Я спросил пару знакомых математиков, у них тоже сходу не получилось ответить, они спросили ChatGPT, тот тоже не решил (5.2; дело было примерно полгода назад). Я нашел примерный ответ численно и на этом остановился.

Где-то месяц назад мой коллега задал тот же вопрос Клоду (4.6). Клод подумал-подумал и неожиданно сходу выдал решение, с довольно простым по форме ответом в явном виде. Ответ был явно правильный, решение в целом тоже правильное (там были некоторые неточности и дырки, которые мой коллега вместе с Клодом в итоге закрыли). Решение не совсем тривиальное: нужно взять вариационную прозводную, сформулировать условие на минимум с учетом ограничений на вероятностное распределение, дальше применить Лапласиан к этому условию, и потом заметить, что получившееся преобразованное условие (некое интегральное уравнение) имеет известное решение.

Меня это сильно впечатлило.

Мы обрадовались, вставили это явное решение в уже в остальном готовую статью и отправили на конференцию. Пару дней назад я решил спросить на MathOverflow, насколько вообще трудная была эта задача: https://mathoverflow.net/questions/511199/. И получил ответ, что именно эта задача была поставлена и решена в 1990-е, есть аж две статьи с двумя способами получить решение. Другой пользователь написал, что задал тот же вопрос СhatGPT 5.5 и тоже получил правильный ответ. Ни Клод, ни ChatGPT ни на одну из этих двух статей из 1990-х не сослались. Решение Клода было фактически решением из одной из этих статей, но более подробное (поэтому лично для меня более полезное, чем та статья сама по себе) и в несколько другой терминологии.

Мой вопрос на MathOverflow привлек внимание и быстро попал на первое место в вопросах месяца. Через день кто-то задал другой вопрос (сославшись, в частности, на мой): как следует аспирантам -- и их научным руководителям! -- относиться к LLMs, которые могут решать задачи магистрского-аспирантского уровня, и как им всем следует с ними взаимодействовать. Там уже множество ответов с самыми разными мнениями и интересными ссылками: https://mathoverflow.net/questions/511255. Мне показались особенно интересными и/или впечатляющими следующие тексты:

* https://gowers.wordpress.com/2026/05/08/a-recent-experience-with-chatgpt-5-5-pro/ -- Тимоти Гауэрс (знаменитый математик) описывает, как ChatGPT 5.5 решил интересную для Гауэрса задачу.

* https://www.anthropic.com/research/vibe-physics -- Matthew Schwartz, известный физик и автор учебника по квантовой теории поля, в качестве эксперимента потратил две недели, чтобы написать статью, пользуясь только Claude Code (статья лежит в архиве). Он очень подробно описывает процесс, коллегам советую прочитать и впечатлиться. Шварц пишет, что теперь постоянно сидит с Claude Code и параллельно работает над несколькими задачами.

* https://nataliebhogg.com/2026/03/09/find-the-stable-and-pull-out-the-bolt/ -- астрофизик откровенно пишет про то, как лично она долго принципиально отказывалась пользоваться AI, а где-то полгода назад изменила свое мнение и начало активно пользоваться.

* https://ergosphere.blog/posts/the-machines-are-fine/ -- другой астрофизик интересно пишет про то, какие негативные последствия все это может иметь для следующего поколения аспирантов.