Малоизвестное интересное

В Китае скоро не будет слухов. И это не слух, а решение КПК.\nСоздается уникальный механизм борьбы со слухами: ИИ + журналисты + армия стукачей\nИнформбюро госсовета Китая, Администрация киберпространства Китая и Бюро комплексного госуправления сетью Интернет провели совместную пресс-конференцию, на которой рассказали о серии специальных операций «Цинлан», направленной на уничтожение в стране слухов. \nРезюме.\n1. Генсек Си считает киберпространство «общим духовным домом для сотен миллионов китайцев». И задача партии – «сделать этот дом чистым от слухов». В первую очередь необходимо сосредоточить внимание на слухах, связанных с политикой, экономикой, культурой, историей и научно-популярными темами.\n2. Для этого в Китае будет создан механизм \n-- отслеживания источников слухов;\n-- подавления инфокаскадов распространения слухов;\n-- жесткого и неотвратимого наказания источников слухов (с привлечением их к ответственности с последующим включением в «черные списки», запрещающие дальнейшую работу в сети);\n3. В основе создаваемого механизма будет человеко-машинная коллаборация по контролю онлайн слухов: \n-- ИИ системы + армия журналистов + армия стукачей (мобилизация большинства пользователей сети для активного доносительства и разоблачения слухов). \nВ свое время, по решению партии в Китае уничтожили воробьев (потом, спасаясь от насекомых, пришлось завозить воробьев из СССР). Теперь же для борьбы со слухами будут использовать аналогичный подход всеобщей мобилизации, но с применением ИИ.\n Интересно, смогут ли другие страны, имеющие продвинутый опыт использования армии стукачей, последовать путем Китая? (может, даже ИИ применять не потребуется, учитывая продвинутость опыта)?\nhttps://www.163.com/dy/article/H2MCMGT4051481US.html\n#Китай #ГосконтрольИнтернета

​​Что делать - скорость растет, впереди стена, уже не отвернуть, а подушки безопасности нет? \nЮдковский считает, что если не можете спасти семью, хотя бы не помогайте её убивать.\nМир привык к страшилкам алармистов, уже несколько десятилетий вопящих «Волки! Волки!» по поводу грядущих экзистенциальных угроз человечеству. \nНо происходящее сейчас принципиально отличается от прежних страшилок.\n• До сих пор алармисты предупреждали о потенциально возможных событиях, со спорной вероятностью ведущих к катастрофическим последствиям для мира.\n• Теперь же алармисты пишут, что катастрофическое событие уже произошло, а гибель неотвратима, ибо средств спасения у людей нет, да они и вообще не заморачиваются со спасением.\nУже произошедшей катастрофой называют случившуюся 3 месяца назад «утечку» в цифровой мир землян (ака Интернет) генеративного диалогового ИИ ChatGPT. \nСпустя 3 месяца после «утечки», последствия «вырвавшегося на свободу» из лаборатории OpenAI генеративного диалогового ИИ уже соизмеримы по масштабу с последствиями «утечки» вируса COVID-19 то ли из лаборатории, то ли с рынка г. Ухань.\nВот как это описывают Андреа Миотти и Габриэль Альфур в активно обсуждаемом среди ИИ-профессионалов меморандуме «AGI in sight: our look at the game board»/\n1) У человечества случилось озарение. Мир понял, что AGI на подходе, и с большой вероятностью это случится в ближайшие 5 лет.\n✔️ Антропоморфизация ИИ сыграла с людьми злую шутку. Считая, что AGI будет человекоподобен, исследователи отодвигали возможность его создания до тех пор, когда научатся воспроизводить в машинах ключевые аспекты человеческого разума.\n✔️ Оказалось же, что AGI вовсе не нужно быть человекоподобным - мыслить и понимать мир, подобно людям. И этот нечеловеческий ИИ может быть по-своему столь умел, чтобы бросить вызов многим интеллектуальным способностям людям, а затем и превзойти их.\n✔️ Сейчас уже нет никаких принципиальных препятствий на пути превращения интеллектуальных агентов на основе больших языковых моделей в «AGI нечеловеческого типа».\n2) Случившееся озарение произошло столь стремительно, что люди не успели подготовиться.\nНикто не знает: \n✔️ как сделать «AGI нечеловеческого типа» правдивым;\n✔️ как предсказать появляющиеся у него эмерджентным образом новые способности;\n✔️ как понять логику его работы и совершенствования.\n3) Гонка за созданием «AGI нечеловеческого типа» уже началась и неостановима.\n✔️ Выиграть ее хотят все мегакорпорации и правительства.\n✔️ Хоть как-то замедлить ее не заинтересован никто (и никто даже не собирается сделать что-либо подобное).\nПримерно о том же, что написано в «меморандуме Миотти – Альфура», пишут многие известные специалисты: Элиезер Юдковски, Ян Хогарт, Пол Кристиано , Нейт Соарес, Джон Вентворт …\nЭлиезер Юдковски предлагает вариант неучастия: \n«Если вы не можете спасти свою семью, хотя бы не помогайте её убийству».\nНо команда OpenAI опубликовала вчера обращение, в котором пишет, что не собирается сдаваться перед неотвратимо приближающимся «AGI нечеловеческого типа»:\n«Успешный переход к миру со сверхразумом — это, пожалуй, самый важный — и обнадеживающий, и пугающий — проект в истории человечества. Успех далеко не гарантирован, и ставки (безграничные минусы и безграничные плюсы) объединят всех нас.»\n#Вызовы21века #РискиИИ #AGI

​​“Либо у нас будет свой конкурентный генеративный ИИ, либо нас опустят, а то и уничтожат”.\n“Мы должны сделать это, даже если уже поздно!”\nБольшой бизнес Китая проиграл США, отстав в области больших моделей генеративного ИИ на несколько лет. Не спасли ни большие НИОКР бюджеты (в 2022: Baidu - ¥21.4 млрд, Tencent - ¥61.4 млрд, Alibaba - ¥120 млрд …), ни господдержка.\nТеперь слово венчурных предпринимателей Китая, принявших вызов США – пишет Ян Цзюньвэнь в большом обзоре этой темы, опубликованном в «Китайском предпринимателе».\nПозиция лидеров венчурного бизнеса Китая сформулирована предельно четко.\n1) Ключевая технология 21 века определилась.\n• В одночасье блокчейн, метавселенная, Web3, VR и другие казавшиеся самыми перспективными технологиями ушли на 2-й план. А на 1-м плане лишь один абсолютный лидер - большие модели генеративного ИИ. \n• «Мы вышли из века информации или века Интернета. Теперь мы вступили в век интеллекта или в эпоху общего искусственного разум. Эпоху, - в ходе которой человечество поменяет тип земной цивилизации».\n2) Госструктуры и Бигтех Китая слишком неповоротливы и осторожны, чтобы догнать США. Но догонять все равно надо во что бы то ни стало.\n• "Тем, кто говорит будто уже слишком поздно, - мы ответим так. Американцы создали ядерную бомбу раньше Китая, и что - разве Китай перестал создавать свою? Это относится не к отдельным стартапам, а к государству Китай: вопрос лишь в том, хочет ли Китай иметь свою новую, сверхмощную «атомную бомбу» 21-го века или нет".\n3) Венчурный бизнес Китая может решить проблему отставания от США.\n• Кай-фу Ли (у нас представлять не надо); \n• Чжан Имин (программист и предприниматель, основатель компании ByteDance - разработчика TikTok, 4е место в списке богатейших жителей Китая);\n• Ван Син (предприниматель в области интернета и социальных сетей, миллиардер, исполнительный директор фирмы Мэйтуань-Дяньпин, один из богатейших людей Китая); \n• Ван Сяочуань (интернет-предприниматель и инвестор, основатель и гендир Sogou Inc. -интернет-поисковика № 2 в Китае с фокусом на ИИ;\n• Ван Хуэйвэнь, миллиардер, стоявший у истоков создания пекинской компании Meituan и ряда других интернет-стартапов, -\nвсе они основали собственные стартапы, разрабатывающие большие модели генеративного ИИ.\n«Выигрывают не только малые инновации в большой бизнес, но и большие инновации в малый бизнес - говорит Ван Сяочуань. «Это не только конкуренция технологий, но и, в большей степени, конкуренция ресурсов. А у нас их больше, чем у американцев».\n«И конкуренция у нас на порядок выше, чем в США» – добавляет Ли Чжифэй (основатель и СЕО Chumen Wenwen). «Предложений китайских предпринимателей в два раза больше, чем в США, но цена за единицу или рыночное пространство Китая составляет лишь 1/5 от США, поэтому интенсивность конкуренции в Китае в 10 раз выше».\n#Китай #ИИгонка #США

​​Chat GPT3 сдал MBA-экзамен одной из самых крутых бизнес-школ мира – Уортон.\nНо люди продолжают настаивать, будто мы – единственный высший интеллект на Земле\nСдача чатботом Chat GPT3 MBA-экзамена в Уортоне - не фейк или шутка, а авторитетное экспериментально подтвержденное заключение.\nЭксперимент был чистый. \n✔️ Chat GPT3 получал на вход вопросы настоящего экзамена по типичному основному курсу MBA\n✔️ Ответы чата оценивались, как если бы экзамен сдавал человек\nРезультаты.\n1. Chat GPT3 отлично справляется с базовыми вопросами управления операциями и анализа процессов. Ответы правильные, пояснения отличные. \n2. Иногда чат допускает удивительные ошибки в относительно простых вычислениях на уровне математики 6-го грейда. \n3. Текущая версия чата не способна обрабатывать более сложные вопросы анализа процессов, даже если они основаны на довольно стандартных шаблонах. \n4. Чат удивительно хорош в изменении своих ответов в ответ на человеческие подсказки. \nВ итоге Chat GPT3, будь он человеком, получил бы на МВА-экзамене проходную оценку где-то между "В" (Pass 65-69%) и "В-" (Conditional Pass 60-64%).\nРезультаты этого эксперимента подтверждают, что мания превосходства над ИИ переходит у людей в маниакальную стадию.\nТо, что: \n• ИИ не понимает смысла своих ответов,\n• не имеет модели мира и самого себя,\n• не способен делать причинно-следственные выводы и, вообще, не способен мыслить, -\nзаставляет многих специалистов отрицать очевидное - наличие у Chat GPT3 интеллекта, сопоставимого с человеческим, НО ПРИНЦИПИАЛЬНО ИНОГО.\nИ это не вопрос определений. Ибо как не определяй, но сдача МВА-экзамена не оставляет люфта для сомнений. Ведь сдающий экзамен чатбот, как и человек, должен опираться лишь на собственный интеллектуальный ресурс (т.к. чатбот не подключен к Интернету).\nОтрицание — это психический процесс, относимый к механизмам психологической защиты человека. Отрицание проявляется, как отказ признавать существование чего-то нежелательного.\nТогда, применительно к теме поста, можно предположить наличие у человечества отрицания сопоставимого с нами интеллекта из-за нежелания признавать существование чего-то не менее умного, чем мы.\nМания собственной исключительности человека заставляет параноидную личность отрицать очевидное до тех пор, пока это физически не истощит ресурсы его организма. \nС человечеством может получиться аналогично.\nНа рисунке пример экзаменационного вопроса и ответ Chat GPT3. \nЕсли останавливать людей на улицах и задавать этот вопрос, - многие ли ответят правильно и смогут так обосновать ответ? \nAGI

​​Над Киевом летают эскадрильи НЛО.\nОни в 30 раз быстрее самых быстрых гиперзвуковых ракет.\nНаблюдения, опубликованные исследовательской группой д.ф.-м.н. Б.Е Жиляева, признаны достоверными. Но по их интерпретации мнения разделились, и требуется серия уточнений.\nСледуя рекомендациям прошлогоднего отчета по НАЯ (Неопознанные Атмосферные Явления – официальный термин, заменивший НЛО) Пентагон 20 июля объявил о создании Всепрофильного управления по анализу аномальных явлений. А в начале сентября НАСА поручила независимой исследовательской группе астрофизика Дэвида Спергеля начать исследование НАЯ — наблюдение и фиксация летающих объектов, которые, с научной точки зрения, не могут быть идентифицированы как самолеты или известные природные явления.\nГруппа Б.Е Жиляева начала такую работу на несколько месяцев раньше, начав наблюдения с двух станций слежения за метеорами Главной астрономической обсерватории Украины (в Киеве и в 120 км от него). Результаты этих наблюдений только что опубликованы в arxiv.org и, если подтвердятся, могут стать поворотными для всей последующей истории человечества.\nЦветные видеокамеры зафиксировали (с выдержкой всего в 1 млсек и частотой кадров >= 50 кадров в сек) много объектов, движущиеся по небу с чрезвычайно высокой скоростью — до 282 км/сек. Это скорость в 829 махов (более миллиона км/час), что в 30 раз превышает максимальную теоретическую скорость самой быстрой гиперзвуковой ракеты на Земле – российского «Авангарда».\nОбъекты наблюдаются в тропосфере на расстояниях до 10-12 км. Их размеры оцениваются в 3-12 м. Были зафиксированы пролеты как одиночных объектов, так и средних и больших групп со скоростью от 9 до 44 махов (829 махов – это максимально зафиксированная скорость объекта на приложенном к посту фото). Человеческий глаз не видит такие объекты, поскольку время их пролета меньше 1/10 секунды. С фото и видео тоже все не просто. Чтобы их обнаружить и зафиксировать, применяется специальная аппаратура и методика.\nАвторы исследования резюмируют свои результаты так.\n«Мы видим их повсюду: большое количество объектов, природа их неясна».\nРуководитель исследования д.ф.-м.н. Борис Ефимович Жиляев – известный и авторитетный ученый, член Международного астрономического союза и Европейского астрономического общества. В 2005 году его именем названа малая планета 14346 Zhilyaev. \nНо как ни высок авторитет руководителя исследования, c интерпретацией полученных результатов нужно быть крайне осторожным. \n• С одной стороны, измерений много и они кажутся согласующимися друг с другом, поскольку оба контроллера на разных станциях показывали те же результаты. \n• С другой, - нужны дополнительные проверки, что это не какие-то синхронные сбои в работе приборов или непонятные пока изъяны методики измерений.\nПубликация авторами результатов исследования в arxiv.org вызвала, на мой взгляд, болезненную реакцию их коллег из Главной астрономической обсерватории Национальной академии наук Украины. \nЯ внимательно изучил (насколько позволяет мой дилетантизм в этой области) статью группы Жиляева и посмотрел видео его презентации на заседании Ученого совета МАО НАН Украины. \nЧто сказать.\n• Статья и презентация мне понравились: четко и ясно.\n• А перестраховочная позиция Ученого совета и рецензии его членов заставляют вспомнить приговоры ученым во времена СССР о лженауке - кибернетике. \nКороче, ждем заключение группы Спергеля.\nИ если подтвердится … Ход событий может кардинально измениться.\n#НАЯ

​​Все так ждали сингулярности, - так получите!\nТеперь каждый за себя, и за результат не отвечает никто.\nИбо вчера, уже не теоретически, а на практике началась гонка за интеллектуальное превосходство машин над людьми.\nВ один день произошло сразу 4 выдающихся события.\n1. OpenAI объявил о выходе GPT-4\n2. Anthropic объявил о выходе Claude\n3. Google объявил о выходе PaLM-Med и PaLM API & MakerSuite\n4. Adept (стартап из всего 25 сотрудников, бросивший вызов названным выше трём богатырям, и обещающий, что его цифровой помощник не просто «искусно говорящий чатбот», а действующий агент), сразу после показа демоверсии своего цифрового помощника получил венчурное финансирование в $350 млн.\nТо, что все это произошло в один день, говорит о скачкообразном изменении динамики гонки: типа, вы все ждали сингулярности, так получите.\nНо кроме этого можно сделать два ключевых содержательных вывода:\n1. Сопоставимый с человеческим интеллект создан, и теперь все деньги и таланты будут брошены на сверхчеловеческий интеллект.\n2. Это поднимает ставки на такой уровень, что теперь в конкурентной борьбе\nа) каждый за себя и ничем делиться не будет;\nб) если в итоге этой гонки сильно пострадает человечество, так тому и быть, ибо мотивация выиграть гонку превалирует над избеганием экзистенциального риска.\nНаверняка, многие захотят оспорить оба этих вывода. \nМоя же логика в их основе такова.\nИз отчета OpenAI следует:\n1) GPT-4 проходит не только тест Тьюринга, но и куда более сложный тест по схеме Винограда (учитывающий здравый смысл и понимание контекста).\n2) Делиться важными деталями своей разработки (об архитектуре, включая размер модели, оборудовании, обучающем компьютере, построении набора данных, методе обучения или подобном) авторы не будут из соображений конкуренции и безопасности. Думаю, не нужно объяснять, что также поступят и конкуренты.\n#LLM #Вызовы21века #РискиИИ

​​Мир будет стремительно леветь.\nПервый из серии неожиданных сюрпризов влияния ChatGPT на человечество.\nПоследствия «Интеллектуальной революции ChatGPT» будут колоссальны, разнообразны и во многом непредсказуемы.\nИ пока эксперты ломают головы о том, как грядущие кардинальные изменения способов и практик познания и принятия решений изменят людей, новые исследования о влиянии ChatGPT на людей (и наоборот) преподнесли неожиданный сюрприз.\n1. ИИ-чатботы на основе генеративных больших моделей оказались крайне эффективными в убеждении людей в чем угодно. \nВ частности, как показало исследование социологов и психологов Стэнфордского университета, убедительность ИИ по политическим вопросам не уступает профессиональным политтехнологам. А способность ИИ играть на оттенках индивидуальных предпочтений конкретных людей (о которых он знает больше родной мамы) позволяет убеждать (и переубеждать) людей даже в самых острых поляризованных вопросах политики. \n2. ИИ-чатботы очень скоро станут непременным повседневным атрибутом любой интеллектуальной деятельности людей - нашими интеллектуальными ассистентами 24х7 (этим уже озаботились гиганты Бигтеха, например, Google и Microsoft уже планируют вмонтировать ИИ-чатботы во ВСЕ свои продукты и сервисы).\nСледовательно, ИИ-чатботы будут влиять на все аспекты потребления нами информации, равно как и на ее анализ и оценку.\n3. А поскольку наши интеллектуальные ассистенты вовсе не беспристрастны в своих политических воззрениях, их пристрастия неминуемо будут влиять на укрепление или изменение пристрастий людей (и как сказано в п. 1, это влияние будут эффективным и продуктивным).\nОсталось понять лишь одно – каковы политические пристрастия ChatGPT (прародителя ИИ-чатботов на основе генеративных больших моделей)?\nОтвет на этот вопрос содержится в исследовании с характерным названием «Политическая идеология разговорного ИИ: сходящиеся доказательства проэкологической и леволибертарианской ориентации ChatGPT».\nChatGPT обладает политическими пристрастиями среднестатистического инженера-программиста из района залива Сан-Франциско: человека левых взглядов, близких социалистам или социал-демократам, сильно озабоченного экологическими проблемами из программ «зеленых» партий.\nПолагаю, теперь не нужно объяснять, почему мир скоро начнет стремительно леветь.\nМиллиарды эффективных в убеждениях, всезнающих интеллектуальных ассистентов левых взглядов обеспечат глобальный тренд полевения человечества.\nПро-экологическая, лево-либертарианская идеология ChatGPT & Co убедит миллионы людей ввести налоги на полеты, ограничить повышение арендной платы, легализовать аборты и много что еще из повестки левых (см. приложение к статье)\n#Вызовы21века #РискиИИ

​​Китай достиг абсолютного доминирования в мировой науке.\nЕще пару лет назад это казалось невозможным.\nАвгустовский доклад Национального института научной и технической политики Японии (NISTEP) принес шокирующую для США (и не только) информацию – Китай стал абсолютным мировым чемпионом во всех существующих номинациях по научным публикациям. Это как если бы страна выиграла на Олимпиаде ВСЕ золотое медали.\n Два месяца назад я рассказывал, что Китай впервые в истории поднялся на 1е место в мировом рейтинге ТОР10 высококачественных научных публикаций за прошлый учетный год (2020). Порвав весь мир, как Тузик грелку, Китай набрал в этом рейтинге 3488, обойдя США с рейтингом 2051, Германию - 1348, Францию 676 и всех-всех (перечитайте здесь).\nТеперь же, согласно расчетам NISTEP, Китай по результатам 2018-2020 вышел на 1к место во всех номинациях:\n• в общем зачете по наиболее цитируемым научным публикациям (Китай 407181, США 293434); \n• по ТОР10% лучших (по числу цитирования) научных публикаций (Китай 46352, США 36689);\n• по ТОР1% лучших из лучших (по числу цитирования) научных публикаций, типа публикаций нобелевских лауреатов и прочей элиты из элит в науке (Китай 4744, США 4330).\nОстальных мировых лидеров двух рейтингов (верхний (коричневая шапка) – это ТОР10%, а нижний (зеленая шапка) – ТОР1%) можете посмотреть в частично переведенной мною итоговой таблице NISTEP: левая часть таблицы – статистика 1998-2000, средняя 2008-2010, правая 2018-2020; в каждой из 3х частей слева рейтинг, потом доля в суммарном рейтинге и место) \n• В ТОР10% Китай в 1998-2000 был №13, в 2008-2010 уже №6, и вот теперь №1\n• В ТОР1% Китай в 1998-2000 был №13, в 2008-2010 уже №7, и вот теперь тоже №1\n• FYI в общем зачете (в таблице не показано) Китай в 1998-2000 был №8, в 2008-2010 уже №2, и теперь, понятное дело, №1 \nДля справки о России.\n• В общем зачете:\n-- в «лихие 90е» были №9 (прямо следом за Китаем)\n-- в «богатые 2000е» опустились на №14\n-- в «дохоподъемные 2018-2020» еще опустились на ступень - №15\n• Но качество работ настолько упало, что в обоих рейтингах ТОР10% и ТОР1% \n-- в «лихие 90е» скатились на №22\n-- в «богатые 2000е» и «дохоподъемные 2018-2020» выбыли из ТОР25\nВозвращаясь к ракетному взлету Китая в абсолютные чемпионы по публикациям, хочу добавить лишь следующее.\nСША теперь только и осталось, что грешить на методику подсчета рейтинга NISTEP. По своему собственному рейтингу из отчета «Состояние науки и техники США 2022», опубликованному Национальным научным фондом США (NSF) в январе, США все еще впереди.\nМне же видится, что японцы правы. У них статистика втрое больше чем у NSF. Кто не верит, проверьте сами, скатив и отчет, и статистику здесь.\nНу а делать собственные рейтинги нас учить не надо. Поставят цель, - к следующему году будем в ТОР10%, а там и …\n#Наука #Китай #США

Мошенники проиграли. Мы с вами выиграли!\nСпасибо команде поддержки Телеграм!\nДорогие (а теперь втройне, т.к. мы снова вместе) мои читатели!\nВо-первых, прошу простить меня за оплошность, результатом которой могла стать потеря этого Телеграм канала. \nХвала команде Телеграма! Этого не случилось.\nТеперь всё возвращается на круги своя. И я продолжаю знакомить вас с малоизвестной интересной информацией, узнать которую из других источников вам было бы довольно затруднительно (ну как минимум, куда более времязатратно).\nПризнателен каждому читателю канала. Ибо я всего лишь пишу тексты. Тогда как их осмысление (подобно красоте в глазах смотрящего) происходит в разуме десятков тысяч моих читателей. И поскольку интеллект каждого приумножается в результате коллективного обмена информацией, от этого процесса выигрываем все мы.\nУра!\nСК \n😊

Важный шаг к новому биполярному миру.\nИ двум интернетам с «железным занавесом» между ними.\nПланы расширения сотрудничества России с Huawei видятся все более масштабными. Десятки публикаций ведущих СМИ, популярных блогов, телеграм и ютуб каналов обсуждают перспективы сотрудничества Huawei и МТС по внедрению 5G и возможность установки на смартфоны Huawei российской ОС «Аврора». \nИ лишь немногие авторы, предупреждая о серьезной опасности стратегической ориентации России на Huawei, пишут о ключевой угрозе такого курса. А это вовсе не 5G или «Аврора». Это решающий шаг к новому глобальному расколу мира. Только в 21 веке этот раскол начнется в глобальной сети, разделив её на 2 интернета, ведомые США и Китаем. Ну и, естественно, с «железным занавесом»: сначала между интернетами, а потом, - как пойдет.\n\n• О том, что такое, скорее всего, произойдет в ближайшие лет 10, впервые заявил в сентябре прошлого года бывший глава Google Эрик Шмидт.\n• За прошедшие с того времени месяцы, мир существенно продвинулся к интерент-расколу. О чем в начале июня рассказал председатель группы Standard Chartered Bank Хосе Виналс.\n• CNN констатирует:\n«Во главе с Китаем все больше стран восстают против принципа открытого интернета, правительства жестко охраняют границы собственных интернет-сетей, заставляют иностранных конкурентов хранить данные локально и обеспечить к ним доступ органам внутренней безопасности»\n\nРоль компании Huawei в мировом экспорте китайских технологий тотальной слежки, наблюдения, контроля в офлайне и онлайне, а также контролируемых интернет-сетей особая.\nСистемы тотального контроля, совместно разработанные Huawei и госкомпанией CEIEC, уже поэтапно осваиваются телко-операторами, полицией и спецслужбами расширяющегося ряда стран.\n \nНаглядный пример, система ECU-911, поставленная Китаем Эквадору. Вот ее детальное описание в NYT и не столь подробное, но на русском – в Хайтек+.\n\nАналоги ECU-911 поставляются в Боливию, Венесуэлу и Анголу. Отдельные элементы такой системы внедряются еще в 14 странах (вкл. Узбекистан, Пакистан, Кения, ОАЭ и, вы не поверите, даже Германия).\nСамый новый кейс – Бразилия. Здесь прямо сейчас разгорается скандал из-за намерений внедрить китайскую систему тотального контроля.\n\nТехнологии «огораживания своего суверенного интернета» идут следом за технологиями тотального контроля офлайновой жизни и являются их сущностным продолжением в онлайне. Страны, сделавшие ставку на тотальный контроль, следующим шагом начинают пытаться огородить свой интернет.\n\nМасла в огонь усиленно подливает Вашингтон, проводя агрессивную кампанию против Китая, Ирана и России, которая существенно усиливает тенденцию раскола интернета. Перспективы формирования различных национальных стандартов и правил регулирования компьютерных сетей становятся все более реальными.\nЕсли Россия и Китай в этом вопросе договорятся (а стратегическое сближение с Huawei тому серьезное подтверждение), тот интернет, к которому мы все привыкли, просто перестанет существовать. А его раскол станет важной частью нового биполярного мира, ведомого США и Китаем.\n#Китай #Интернет

​​Человечеству предстоит сыграть в русскую рулетку.\nМакс Тегмарк подсчитал шансы мира на скорую гибель.\nИсходя их приложенной диаграммы сценариев, шансы земной цивилизации в ближайшее время погибнуть из-за ядерной мировой войны такие же, как при игре в русскую рулетку – 1/6.\nЭта вероятность вытекает из оценки Тегмарком текущего состояния и вероятностей трех следующих сценарных переходов:\n1. 30%-ая вероятность перехода ситуации в состояние kaboom («малый бабах») – ядерный удар по Украине;\n2. после 1, с 80%-ой вероятностью переход в состояние «Расширение конфликта с неядерным участием НАТО»;\n3. после 2, с 70%-ой вероятностью переход в состояние KABOOM («большой бабах») – ядерная 3-я мировая.\n4. ИТОГО: 30% x 80% x 70% ~ 1/6\nКроме названных состояний самого опасного для мира сценария, диаграмма включает такие возможные сценарии: два полярных «Косово» и «Вьетнам»; три промежуточных «Финляндия», «Корея» и «Ливия».\nОстальное (детали, обоснования, предположения) понятно из сопроводительного текста Тегмарка.\nЗавершается текст захватывающим резюме «Влияние 3-ей мировой войны».\nТут со ссылкой на рассекреченную американскую карту целей ядерных ударов по России и Китаю, Тегмарк отмечает:\n• в случае ядерной войны России и США, последние ударят и по Китаю, чтобы тот не стал самой сильной послевоенной экономикой;\n• поскольку в Китае гораздо больше крупных городов, чем в США и России, это значительно увеличит производство дыма и сажи, ведущих к ядерной зиме.\n#БольшаяВойна #Россия #США #Китай

Китай начинает заселение Метаверса.\nПервые 100К колонистов прибудут туда через 10 дней.\nПока Марк Цукерберг и Билл Гейтс лишь пиарят фантастическое будущее человечества в Метавселенной, прагматичный Китай начал его заселение. 27 декабря китайский поисковый гигант Baidu запускает процесс колонизации первой планеты Метавселенной Xirang (Земля Надежд). Это гигантская VR лента мёбиуса, созданная на VR-платформе Baidu, внутри которой до 100 тыс. аватаров участников конференции Baidu AI Developer Conference на 3 дня погрузятся в виртуальное 3D пространство Земли Надежд.\nПохожая на Страну чудес иммерсивная виртуальная планета подарит участникам конференции улетные впечатления. Здесь аватары всех участников будут:\n• смотреть панельные выступления и участвовать в дискуссиях;\n• отрываться на дискотеках;\n• посещать выставочные стенды участников;\n• развлекаться на концертах с участием героев мультфильмов (Оптимус Прайм из Трансформеров и пр.);\n• путешествовать по древним монастырям, где монахи будут обучать их шаолиньскому кунг-фу;\n• и много чего еще: делать покупки, знакомиться с новыми людьми ...\nсм. WEEKEND VIDEO https://www.youtube.com/watch?v=RiXby8NNupg\nПользователи смогут переноситься на планету «Земля Надежд» с различных устройств (компьютеры, телефоны и носимые устройства), подключать своего аватара к глобальному голосовому чату и напрямую общаться с аватарами других людей на планете «Земля Надежд».\nТак что пока многие западные скептики сомневаются в прогнозах Цукерберга и Гейтса о переводе в течение 2-3 лет большинства встреч и конференций в Метавселенную, в Китае всё уже закрутилось на практике. \nПомимо Baidu, засуетились три китайские государственные телекоммуникационные компании - China Mobile, China Unicom и China Telecom. Уже в ноябре они объединились с несколькими технологическими компаниями, чтобы сформировать Metaverse Industry Committee - первую отраслевую группу Китая, посвятившую себя массовому заселению Метавселенной китайцами. А заодно и планирующую через 3 года получить изрядную долю $800-миллиардного рынка Метаверса.\n#Metaverse #Китай

Человечество провалило тест Интернета.\nКак теперь не провалить тест ИИ – большой вопрос.\nЗа величайшие изобретения, менявшие эволюционную траекторию развития вида, люди уже дважды платили колоссальную цену.\n• Платой за первое такое изобретение - письменность, - стала постепенная деградация памяти людей, все более утрачиваемой по мере совершенствования их «внешней памяти».\n• Платой за второе величайшее изобретение – Интернет, перегрузивший нас информацией больше, чем мы может обрабатывать, - стала нарастающая деградация когнитивной глубины мышления людей, нарастание стресса, снижение концентрации внимания и поляризация политического дискурса.\nОдержимость количественными показателями, объема, скорости и эффективности сформировала у цивилизации ошибочную модель познания. \nОтдавая приоритет инструментам, процессам и практикам, позволяющим нам достигать бОльших результатов, быстрее и эффективнее (с точки зрения производительности и материальных затрат), мы обрели третье величайшее изобретение – искусственный интеллект (ИИ).\n И если развитие ИИ-помощников пойдет по тому пути, что формируют сейчас киты Бигтеха, модели познания людей будет нанесен катастрофический и, возможно, невосполнимый урон. \nПередавая все больше функций познания ИИ, люди не только еще более утратят и так уже далеко не лучшую память. В добавок, они будут неотвратимо терять функциональность своих важнейших когнитивных гаджетов (типа, критического мышления), все более полагаясь на когнитивные гаджеты больших языковых моделей.\nПерекладывание своей интеллектуальной работы на ИИ будет иметь для интеллектуальных способностей людей аналогичные последствия, что и отказ от физической работы, передаваемой механизмам, ведущий к деградации физических способностей.\nВот почему важнейшим вызовом человечества сегодня является решение задачи снижения цены, которую нам предстоит заплатить за фантастические блага, сулимые цивилизации от внедрения ИИ.\nМожно ли было снизить цену, заплаченную людьми за массовое распространение письменности – неизвестно. Ибо было давно, и никто точно не знает как.\nНо вот с массовым распространением Интернета, все было буквально на наших глазах. И мы определенно знаем, что многое можно было сделать иначе, минимизируя цену утрат и деградаций.\nО том, как провалив тест Интернета, человечеству не провалить тест ИИ, читайте новое эссе Эзра Кляйн – это мастрид.\n#ИИ #Вызовы21века

​​Ассиметричный ответ Китая в борьбе с США за лидерство в ИИ.\n«И на силу свою не надейся. Ты естеством, а я колдовством».\nТак говорила Баба-Яга в фильме «Морозко», выбрав стратегию, как побить богатыря.\nВ важнейшей технологической области 21 века - ИИ Китай сейчас в положении Бабы-Яги.\n1. На свою техно-силу рассчитывать не приходится.\n- Отставание Китая в главнейшей для ИИ области больших языковых моделей составляет примерно 3 года (подробней: популярно и с деталями);\n- отставание Китая в вычислительной мощности обучения моделей на 2 порядка (см. картинку слева)\n- в ближайшие годы это отставание Китаю не наверстать из-за отставания в микроминиатюризации интегральных схем, а покупать их в США нельзя из-за экспортных ограничений (см. картинку справа)\n2. Поэтому Китай выбрал ассиметричный ответ – опередить США в области регулирования ИИ.\n- для этого в Китае быстро принимаются законы и правила, регулирующие все аспекты внедрения и использования генеративного ИИ: лицензирование, ограничения и контроль с учетом конфиденциальности и оказания влияния;\n- устанавливается единый национальный регулятор «Управление киберпространства Китая»\n- создается инфраструктура для экспорта ИИ в связке с регулированием на Глобальный Юг и в страны, участвующие в инициативе Китая «Один пояс, один путь» (148 стран).\nПомимо возможности сбалансировать свое отставание в техно-силе, такая ассиметричная стратегия Китая также работает и на два ключевых приоритета КПК в области ИИ:\n• минимизация социальных потрясений при развертывании ИИ\n• максимально плотный контроль над бизнесом со стороны властей\n#Китай #ИИ

Выполняя указание Си, в Китае объявлена мобилизация алгоритмов.\nВ Метаверсе и реальном мире обязаны быть те же политические ценности, идеалы и стандарты.\nЕсли б мог, Си запретил бы Метаверс. Но это не под силу даже ему. Понимая это, Китай решил пойти другим путем – взять под партийный контроль бесконечное множество новых цифровых миров Метаверса, подобно тому, как в Китае уже взят под контроль 1й из созданных человечеством глобальных цифровых миров – современный Интернет. \nВ Интернете Китаем уже создана самая крупная и функционально изощренная в мире система мониторинга и цензуры контента и поведения людей.\n• Система «Великая Китайская стена» фильтрует содержимое всего интернета\n• Система «Великая пушка» может блокировать трафик при входе или выходе из Китая\n• Свод правил, известный как «семь базовых показателей», ограничивает характер контента, доступного в сети.\n• Действуют жесткие ограничения на распространение слухов в Интернете (до 3х лет тюрьмы)\n• Специальная система контроля «ванхунов» (инфлюенсеров среди интернет-блогеров и медийных персон, имеющих большую популярность в китайских социальных сетях).\n• С 1 марта 2022 взяты под тотальный контроль сетевые алгоритмы, работающие на бизнес (устанавливающие цены, контролирующие поиск, рекомендующие и фильтрующие контент).\nВсе это, по замыслам КПК, будет работать и во всех новых виртуальных цифровых мирах Метаверса, которые в ближайшее десятилетие будут возникать и расти как грибы.\nНо как в Метаверсе влиять на общественное мнение, формирующее политические ценности общества, его идеалы и стандарты?\nВедь число миров Метаверса будет огромным. И потому ни одна система мониторинга и контроля, в которой хоть минимально задействованы люди, не справится с этой задачей неограниченного масштаба.\nРешение Китая очевидно и неотразимо:\nпровести мобилизацию алгоритмов, создав из них армию контролеров, филеров, цензоров, ревизоров, следователей и полицейских, следящих за самими собой. За тем, насколько правильное общественное мнение они формируют своей работой.\nНу и как любая мобилизация, процесс начали со сверки «личных карточек» всех сетевых алгоритмов, влияющих на формирование общественного мнения или возможности социальной мобилизации.\nАдминистрация киберпространства Китая (CAC) заявила в уведомлении, опубликованном в понедельник, что новые правила требуют, чтобы поставщики услуг регистрировали свои алгоритмы в течение 10 рабочих дней после начала их работы. При регистрации алгоритмов указываются: область применения, тип алгоритма, отчет о самооценке алгоритма, содержание его работы и др.\nТакой дивный новый мир не смогли предвидеть даже самые гениальные визионеры от Хаксли до Стругацких.\n#Китай #Интернет #Metaverse

Мир «хищных вещей» уже за поворотом.\nИ этот невероятный поворотный момент может наступить всего через десятилетия.\nМожет оказаться, что прав Харари, предрекая совсем близкий революционный прорыв на стыке инфотеха и биотеха. Прорыв, что отменит большинство из сложившихся в обществе правил и разделит человечество на первосортные и низкосортные страны, а людей на две несравнимо неравные касты: \n- сверх здоровых, сверх умных и сверх богатых сверх-людей \n- и бесполезную биомассу никому не нужного большинства обычных людей.\n\nОчередная левая антиутопия и страшилка – скажете вы? Получается, что не совсем.\n\nТолько что опубликованный отчет о работе большой международной исследовательской группы (14 авторитетнейших университетов и научных центров США, Австралии, Канады и России (!)) называется «Интерфейс человеческий мозг / облако». А посвященный этой публикации Science Alert озаглавлен «Мы ближе, чем когда-либо, чтобы объединить человеческий мозг с облаком».\nScience Alert начинается словами:\n«Человечество может оказаться на грани беспрецедентного слияния человеческой биологии с передовыми технологиями, слияния наших мыслей и знаний непосредственно с облаком в режиме реального времени - и этот невероятный поворотный момент может наступить всего через десятилетия»\n\nПока большинство исследователей мира тщетно пробивались сквозь заморочки построения интерфейса мозг-компьютер посредством «умных тюбетеек», нашелся альтернативный путь, позволяющий реализовать интерфейс мозг-облако посредством внедрения в организм человека нейронанороботов.\n\nПосле навигации по сосудистой сети человека три вида нейронанороботов (эндонейронанороботы, глиаботы и синаптоботы) смогут, преодолев гематоэнцефалический барьер, проникать в конкретные клетки головного мозга человека. Там они будут самостоятельно внедряться в аксоны (эндонейронанороботы), в глиальных клетках (глиаботы) и располагаться в непосредственной близости от синапсов (синаптоботы). \nРасположившись таким образом, они начнут передавать по беспроводной сети до ~6×10**16 бит/сек синаптически обработанной и кодированной электрической информации от человеческого мозга через вспомогательную нанороботовую волоконную оптику с пропускной способностью до 10**18 бит/сек, что обеспечит быструю передачу данных в облачный суперкомпьютер для мониторинга состояния мозга в режиме реального времени и интеллектуального анализа этих больших данных.\n\nОрганизованный вышеописанным образом интерфейс мозг-облако на основе нейронанороботов может служить персонализированным каналом, позволяющим людям получить прямой и мгновенный доступ практически к любому аспекту накопленных человеческих знаний.\n \nДругие ожидаемые приложения включают в себя множество возможностей кардинально улучшить образование, повысить интеллект, получить немыслимое ранее удовольствие от развлечений, путешествий и других интерактивных видов деятельности.\n \nКроме того, специализированным приложением может будет полностью погрузиться в чужой (и в том числе, в искусственный) интеллектуально-сенсорный опыт, включая особый режим т.н. «прозрачного шпионажа» - “transparent shadowing”. Посредством его, люди смогут как бы внедряться в чужую реальность осознанной памяти и переживать эпизоды из жизни других людей, пожелавший поучаствовать в подобном «обмене опытом» (локально или удаленно) …\n\nАлё, читатель! \nЭта антиутопия не для будущего, а для настоящего. Для будущего она имеет все предпосылки стать реальностью.\nПоскольку прав оказался Борис Натанович. \n«Мир “хищных вещей» — это, похоже, как раз то, что ждёт нас «за поворотом, в глубине». И надо быть к этому готовым».\n Б. Стругацкий. Комментарии к пройденному. \n\nScience Alert https://www.sciencealert.com/scientists-say-a-human-brain-cloud-interface-is-coming-this-is-what-it-could-be-like\nСтатья Human Brain/Cloud Interface https://www.frontiersin.org/articles/10.3389/fnins.2019.00112/full\n\n#ИтерфейсМозгОблако

Решается вопрос – будет ли на Земле один сверхразум или два.\nСША, ЕС и Япония против участия Китая на саммите по безопасности ИИ.\nНо Великобритания возражает, ссылаясь на принцип «держите друзей близко, а врагов еще ближе».\nОпубликованное сегодня воззвание Air Street Capital основательно подливает масла в огонь разгорающегося скандала вокруг приглашения Китая на мировой саммит по безопасности ИИ, который пройдет 1-2 ноября в Великобритании.\n\nПо мере приближения саммита правительство Великобритании, похоже, меняет курс и готовится пригласить Китай к участию, наперекор позиции своих основных союзников. \n\nАвторы воззвания утверждают, что демократические страны мало что выиграют от вовлечения враждебного правительства, имеющего опыт подрыва международных институтов, особенно если учесть, что им еще предстоит прийти к согласию по многим из стоящих на кону вопросов.\n\nВ воззвании подробно расписаны 3 ключевых аргумента.\n\n1. Китай придерживается подхода к регулированию ИИ, который мотивирован не столько искренней приверженностью безопасности, сколько политическим контролем.\n2. Китай имеет долгую историю попыток подорвать многосторонние институты и технические стандарты.\n3. Глобальное управление ИИ в настоящее время является несбыточной мечтой, поэтому демократическим странам следует сосредоточиться на достижении соглашений между собой, а не вовлекать враждебное правительство.\n\nЭтот кейс важен и показателен. Если Китай все же станет полноправным участником саммита – остается надежда на международную координацию Запада и Востока в развитии ИИ.\nЕсли же нет – это будет окончательный разрыв Запада и Востока, влекущий создание на Земле двух видов ИИ, потом двух AGI, а затем и двух искусственных сверхразумов.\n\n#Китай #ИИ #AGI

Не роботы отнимут у вас работу, а аватары.\nДо полумиллиона стримеров Е-коммерции Китая скоро могут потерять работу.\nНе только генералы всегда готовятся к прошедшей войне. То же самое делают и большинство бизнес-аналитиков, прогнозируя рынок труда ближайшего будущего. Мысля шаблонами 20-го века, они пишут о скорой потере работы водителями и рабочими-сборки, финансистами и юристами … А практика 21 века свидетельствует о другом. \nИбо, вступив в эпоху сингулярности (а это уже произошло задолго до прогнозировавшегося 2045), мир меняется непредсказуемо быстро по непредсказуемым направлениям.\nТак в Китае под угрозой быстрой потери работы оказалось около полумиллиона человек, работающих стримерами Е-коммерции. Они общаются с огромной аудиторией онлайн в ходе интернет-стримов, исподволь продавая своим поклонникам и просто интересующимся разнообразные товары и услуги.\nС развитием цифровой экономики Китая (где Интернетом пользуются ¾ населения – более 1 млрд людей), новая бизнес-модель livestream shopping в последнюю пару лет бьет рекорды роста популярности и продаж. Сейчас этот сегмент рынка Е-торговли Китая (более 5 трлн долларов) приближается в 10% - это около 0,5 трлн долларов (примерно в 10 раз больше, чем весь рынок розничной Е-торговли России).\nВ сегменте livestream shopping Китая работает около 0.5 млн человек: более 1К мегаинфлюэнсеров национального уровня и сотни тысяч инфлюэнсеров локальных аудиторий. Но даже локальный инфлюенсер, с учетом затрат на студию и трансляцию, обходится в десятки тысяч долларов в год.\nАватары –цифровые копии инфлюенсеров, - с учетом всех затрат на их производство и эксплуатацию, стоят на порядок меньше. А революция генеративного ИИ предполагает, что способность убеждать людей купить товар будет у аватаров на порядок выше, чем у их белковых оригиналов. Т.о. аватары очень скоро станут примерно в 100 раз эффективней людей в индустрии livestream shopping.\nВ Китае такая перспектива уже стала предметом панических настроений среди стримеров Е-коммерции. Но это лишь первая ласточка в начинающемся нашествии генеративных ИИ аватаров на рынок труда. С переходом в Метавселенную, процесс станет тотальным.\nПричем, наперекор даже таким выдающимся визионерам, как Кай-Фу Ли, наибольшее преимущество генеративных ИИ аватаров перед людьми будет основано на их суперспособностях играть на тонких душевных струнах человеческих отношений. Ибо это и есть супер-оружие разума генеративного ИИ, против которого пока не придумано защиты: ни эволюцией Homo sapiens, ни современной наукой и технологиями людей.\n#Китай #Екоммерция #AICG

Сверхразум на Земле будет один - американский.\nНовые экспортные ограничения США лишают Китай конкурентных шансов, как минимум, до 2030.\nСША пошли на беспрецедентный шаг. Объявленные новые правила экспортного контроля – это уже не «удушающий прием», а удар ломом по голове.\nНовые правила (см. 1) запрещают продажу центрам обработки данных китайских компаний, высокопроизводительных чипов с вычислительной мощностью более 300 терафлопс (триллионов операций в секунду). Для чипов с вычислительной мощностью 150-300 терафлопс, продажа будет также запрещена, если «плотность вычислительной мощности» на квадратный миллиметр кристалла превышает 370 гигафлопс (миллиардов операций в секунду). Чипы, попадающие в этот диапазон вычислительной мощности, но с более низкой «плотностью вычислительной мощности», будут в «серой зоне», что потребует от их американских производителей уведомления правительства о продажах в Китай.\n\nЧтобы оценить сокрушительную силу этого удара, взгляните на приложенную ниже диаграмму из недавнего отчета «2022-2023 Оценка развития вычислительной мощности искусственного интеллекта в Китае». \nНа диаграмме показаны доли рынка чипов ИИ в Китае. Голубой сегмент размером 89% - это графические процессоры (GPU), производимые такими компаниями, как NVIDIA, AMD и Intel, ставшие незаменимыми для обучения больших моделей ИИ. По ним и нанесен удар, обрушающий 89% вычислительной мощности ИИ-систем Китая.\n\n• Конечно, произойдет это не сразу, т.к. некоторые запасы GPU в Китае есть. Однако, все планы по ускоренному выходу Китая на уровень США спущены в унитаз.\n• Встать после такого нокаута Китай не сможет, как минимум, до 2030 (когда запланировано наладить собственное производство чипов такой вычислительной мощности).\n• Серый импорт высокопроизводительных чипов не поможет Китаю. Серого импорта таких объемов не бывает. Напр. до сего дня доля поставок GPU короля этого рынка компании NVIDIA составляла 25% ее мировых поставок. Теперь этот рынок и десятки миллиардов долларов потеряны.\n\nСША пошли на столь высокую плату, дабы окончательно подрезать крылья намерениям Китая стать сверхдержавой №1 в главной технологии 21 века. И этот беспрецедентный шаг со всей очевидностью вытекает из принятого в США решения – во что бы то ни стало стать первым на земле обладателем сверхразума (см. 2).\n\n1 https://www.bis.doc.gov/index.php/documents/federal-register-notices-1/3354-10172023-public-inspection/file \n2 https://t.me/theworldisnoteasy/1807 \n#Китай #США #ИИ #ЭкспортныйКонтроль

​​«Люди должны уступить место ИИ, и чем раньше, тем лучше.»\nПоразительный и шокирующий результат опроса специалистов по ИИ.\nВо вчерашнем целиком посвященном ИИ спецвыпуске авторской программы «Время Белковского» (рекомендую) уважаемый автор программы, предваряя разбор моей статьи «Фиаско 2023», назвал меня «алармистом». И это действительно так. Но нужно уточнить. Речь идет не о психологическом алармизме (особом, тревожном, паническом чувстве и мироощущении, воспринимаемом человеком, как предощущение будущего несчастья), а об алармизме социальном. Этот вид алармизма выполняет роль «колокола тревоги» среди благодушия, эгоизма, безразличия, инертности, беспечности (а то и подлости, предательства и злонамеренности) значительного числа членов общества. Такой алармизм содержат в себе важный рациональный момент: он придает соответствующим проблемам статус серьезных социальных проблем, требующих к себе серьезного же отношения общества.\nТак что же это за проблемы, связанные с развитием ИИ?\nИх много, и они весьма серьезны. Но в духе известной истории «почему не стреляли – во-первых, не было пороха», я назову всего лишь одну. На мой взгляд, решающую.\n• Представьте, если бы многие ведущие биологи мира регулярно говорили что-то вроде: «Я думаю, было бы хорошо, если бы какая-то болезнь уничтожила человечество — ведь это поможет эволюции!»\n• Или если бы многие генералы и полковники крупнейших ядерных держав считали, что уничтожение человечества следует приветствовать, ибо Вселенная станет лучше, если на смену людям придет новый более моральный и умный носитель высшего интеллекта.\nКак это ни покажется кому-то поразительным и шокирующим, но подобным образом думает значительное число ведущих исследователей и инженеров в области ИИ. \n• Их не беспокоит риск вымирания человечества не потому, что они считают это маловероятным, а потому, что они это приветствуют.\n• Они считают, что люди должны быть заменены ИИ в качестве естественного следующего шага в эволюции, и чем раньше, тем лучше.\nПо оценкам Эндрю Критча (СЕО Encultured AI и научный консультант «Центра ИИ» в Универе Беркли), «>5% специалистов в области ИИ, с которыми я разговаривал о риске вымирания человечества, утверждали, что вымирание людей в результате воздействия ИИ - это морально нормально, а еще ~5% утверждали, что это было бы хорошо.»\nОб обоснованиях таких суждений среди сотен инженеров, ученых и профессоров в области ИИ, можно прочесть здесь.\nПриведу лишь в качестве примера одну цитату весьма уважаемого мною интеллектуала - почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса (вот, например, его лекция о разуме – одна из лучших в мире за последние три года). \nЛингвистические возможности генеративных предварительно обученных трансформеров на основе кремния - те самые возможности, которые сделали возможной человеческую цивилизацию, - скоро превысят возможности человека. Мы довели наше понимание того, что представляет собой человек в его нынешнем виде, до уровня плато, на котором дальнейшие приращения понимания будут становиться все более незначительными. Сливки сняты, лучшие вишни собраны … В чем смысл человека, кроме как в том, чтобы быть самовоспроизводящейся машиной, которая эволюционирует в дальнейшие формы, надеюсь, до того, как уничтожит себя, разрушив экологическую среду, необходимую для ее жизнеобеспечения? Могут ли они эволюционировать в трансчеловеческий разумы (или разум, в единственном числе)?\n#Вызовы21века #РискиИИ #LLM

Большой Брат смотрит на Землю «Взглядом Горгоны».\nА наивные жители Канзасщины полагают, что это к ним прилетела НЛО.\nЭто лето станет поворотным моментом на пути к созданию Всемирного Большого Брата. С подачи Gardian мир узнал, что Пентагон уже начал 3х месячное тестирование системы массового видеонаблюдения нового поколения.\nНовизна радикальная. Система видит и записывает ВСЕ – любые объекты и каждое перемещение на территории целого города. В то время, как обычная аэрофотосъемка может снимать в конкретный момент времени только определенный небольшой участок, новая система позволяет одновременно отслеживать десятки тысяч целей, движущихся внутри гигантской территории. В сочетании с методами анализа больших данных эта система не только видит ВСЕ, но и способна прогнозировать, что будет происходить дальше.\nВ тестовом пилотном проекте задействованы 25 беспилотных аэростатов на солнечной энергии с гарантированным беспосадочным периодом не менее месяца. Они летают на высоте 20 км (выше самолетов) и оснащены самой совершенной в мире (ау, Китай!) системой видеонаблюдения "Взгляд Горгоны". Модель Gorgon Stare Increment II покрывает видеонаблюдением площадь более 50 квадратных километров. Два сенсорных шара интегрируют и ужимают изображения с 368 камер широкоугольной съемки (WAMI), которые затем оцифровываются и «сшиваются» в единый цифровой ландшафт. При этом сенсорная система "Взгляда Горгоны" видит и пишет круглосуточно, как обычное изображение, так и инфракрасный спектр, включая пограничные состояния заката и рассвета. Аэростаты будут всепогодно летать над 6 штатами по 400 км траекториям, зависая на месте, где потребуется (разработчики научили систему управления аэростата использовать т.н. стратосферные ветры).\nКроме того, система позволяет ее пользователям «путешествовать во времени», чтобы пересмотреть любое интересующее их событие и точно увидеть, что произошло, кто был вовлечен и откуда они пришли, приехали или прилетели. \nИспытания проводит Южное командование США, якобы для отработки слежки за наркотрафиком. Но в эту отмазку никто не верит. Для всех очевидно, что "Взглядом Горгоны", ранее использовавшийся только военными, собираются оснастить Большого Брата.\n«То, что предлагает эта новая технология, - это наблюдать за всем сразу», - сказал The Guardian Артур Холланд Мишель - один из руководителей Центра по изучению беспилотников в Бард-колледже в Нью-Йорке и автор только что вышедшего бестселлера «Глаза в небе: секретный взгляд Горгоны и как он будет наблюдать за всеми нами». \nВ книге в деталях рассказывается, как сверхсекретная команда безумных ученых, вдохновленная научно-фантастическим фильмом "Враг государства" 1998 года, создала систему "Взгляд Горгоны", и как потом эта система стала беспрецедентной угрозой частной жизни и свободе людей.\n#БольшойБрат

3й этап цифровизации мира станет для Homo sapiens последним.\nФинансовое обоснование замены людей на генеративный ИИ.\nБизнес прагматичен и жесток. И какие бы заманчивые перспективы ни сулил генеративный искусственный интеллект (ГенИИ), современный бизнес, как и 100 лет назад интересует лишь максимизация прибыли. \nА поскольку эволюция сделала человеческие мозги и тела столь дешевы, и при этом в некоторых вещах люди непревзойденно хороши, - то это, казалось бы, должно сохранить людям конкурентоспособность, как бы быстро ни развивался ГенИИ.\n \nСудите сами – убеждают сторонники такой точки зрения.\nЧеловек – это аналоговая машина, потребляющая менее 150 ватт энергии в час и работающая на тарелке каши, неплохо справляясь с самым широким спектром деятельности. А поскольку эта аналоговая машина столь эффективна и дешева в эксплуатации, средняя мировая зарплата составляет примерно $5 долларов в час, а для некоторых задач в некоторых частях мира средняя зарплата составляет менее $1 в день. \nИ как с этим соревноваться даже сверх-умному ГенИИ?\n\nА вот так! \nПодобные оценки перестают действовать в оцифрованном информационном мире, в который наш материальный мир трансформируется со страшной скоростью.\nВ цифровом мире остаются лишь 3 фактора стоимости работы:\n1. стоимость создания информации;\n2. стоимость вычислений, необходимых для переработки информации;\n3. стоимость распространения информации.\n\n1й этап цифровизации мира ознаменовался появлением микрочипов, быстро снизивших стоимость вычислений на 3-4 порядка. Уже самый 1й программируемый компьютер общего назначения ENIAC был в 5000 раз быстрее, чем любая другая вычислительная машина того времени, и предположительно мог вычислить траекторию ракеты за 30 секунд по сравнению с 30 часами, рассчитанными вручную людьми.\n\n2й этап цифровизации мира осуществил Интернет, кардинально изменивший подход к перемещению битов на большие расстояния. До появления Интернета любое перемещение битов стоило немалых денег. А с его появлением, стоимость отправки документов электронной почтой, потоковое видео или использования практически любого облачного сервиса делается мизерной . Уже в начале 21 века стоимость перемещения бита составляла около 2 умножить на 10 в минус 10й степени. Т.е. отправка, скажем, 1 килобайта уже стоила на порядки дешевле цены почтовой марки. Ну а сейчас, - сами представьте, насколько это дешево.\n\n3й этап цифровизации мира начался в этом году с началом широкого распространения ГенИИ.\nИ если 1й этап цифровизации свел маржинальные издержки (предельные затраты) вычислений к нулю, 2й этап свел к нулю маржинальные издержки распространения информации, то 3й этап вполне способен свести к нулю маржинальные издержки создания информации.\n\nИ потому, как бы ни были дешевы человеческие мозги и тела, в цифровом информационном мире ГенИИ все равно будет дешевле.\n\nСомневающиеся в этом могут почитать подробности в аналитическом кейсе партнеров венчурной компании Andreessen Horowitz The Economic Case for Generative AI and Foundation Models \n\n#LLM #Экономика #Бизнес

​​Выбирая между ИИ и людьми, эволюция предпочтет не нас. \nИсследование Дэна Хендрикса звучит приговором Homo sapiens.\nВывод исследования «Естественный отбор предпочитает людям искусственный интеллект» реально страшен. Ибо это написал не популярный фантазер типа Дэна Брауна, а Дэн Хендрикс (директор калифорнийского «Центра безопасности ИИ» (CAIS) — некоммерческой организации, специализирующейся на исследовательской и научно-полевой работе в области безопасности ИИ.\nДэн Хендрикс – не маргинальный чудак, паникующий из-за прогресса ИИ. Это опытный и известный исследователь, опубликовавший десятки научных работ по оценке безопасности систем ИИ — проверке того, насколько они хороши в кодировании, рассуждениях, понимание законов и т.д. (среди прочего, он также, на минуточку, является соавтором линейных единиц измерения ошибки Гаусса (GELU).\nДжек Кларк (сооснователь конкурента ChatGPT компании Anthropic, сопредседатель AI Index Стэнфордского универа, сопредседатель секции AI & Compute в OECD и член Национального консультационного комитета правительства США по ИИ) так пишет про вывод исследования Хендрикса.\n«Люди рефлекторно хотят отмахнуться от подобного утверждения, будто оно исходит от какого-то сумасшедшего с дикими взором, живущего в лесной хижине. Я хотел бы это заранее опровергнуть… Когда эксперт, имеющий опыт не только в исследованиях ИИ, но и в оценке безопасности систем ИИ пишет документ, в котором утверждается, что будущие ИИ-системы могут действовать эгоистично и не в соответствии с интересами людей, мы должны относиться к этому со вниманием!»\nРезюме вывода Хендрикса.\n• Если ИИ-агенты будут обладать интеллектом, превосходящим человеческий, это может привести к тому, что человечество потеряет контроль над своим будущим.\n• Подобное имеет немалые шансы произойти не в результате некоего особого злого умысла людей или машин, а исключительно в результате применимости к ИИ эволюционных принципов развития по дарвиновской логике.\n• Дабы минимизировать риск этого, необходима тщательная разработка внутренних мотиваций агентов ИИ, введение ограничений на их действия и создание институтов, поощряющих в ИИ сотрудничество. \nГрузить вас анализом совсем не простой 43-х страничной научной работы не стану. \nВот лишь самое, имхо, главное.\n1. Мы боялись прихода Терминатора, но основания этих страхов были ошибочные. Ошибок было две:\na. Антроморфизация ИИ с приписыванием ему нашей мотивации и т.д. (а как показал ChatGPT, ИИ – это принципиально иной разум со всеми вытекающими)\nb. Представление, что ИИ – это некая единая сущность: умная или не очень, добрая или не очень (а на самом деле, этих самых разных ИИ-сущностей в мире скоро будет, как в Бразилии Педро)\n2. Кроме того, был еще один принципиальный изъян в наших представлениях о будущем с ИИ – мы забыли про самый важный механизм развития – эволюцию (коей движимо развитие не только биоагентов, но и идей и смыслов, материальных инструментов и нематериальных институтов …)\n3. На Земле уже начала складываться среда, в которой будут развиваться и эволюционировать множество ИИ. Эта эволюция пойдет по логике Дарвина, путем конкуренции ИИ между собой, с учетом интересов их «родительских» институтов: корпораций, военных и т.д.\n4. Логика конкурентной эволюции приведет к тому же, что и у людей: все более разумные ИИ-агенты будут становиться все более эгоистичными и готовыми обманом и силой добиваться целей, главной из которых будет власть.\n5. Естественный отбор ИИ-агентов ведет к тому, что более эгоистичные виды обычно имеют преимущество перед более альтруистичными. ИИ-агенты будут вести себя эгоистично и преследовать свои собственные интересы, мало заботясь о людях, что может привести к катастрофическим рискам для человечества.\nПоясняющее авторское видео 50 мин\nи популярное видео 3 мин\n#Вызовы21века #РискиИИ

Китай начинает «иммерсивную конвергенцию».\nЕё цель – объединить тысячи миров Метаверса в единый синтетический мир.\nМысль о том, что истинная цель создания Метавселенной не тотальная виртуализация, а объединение физического, биологического и цифровых миров, я пытаюсь донести уже довольно давно.\nВот моя очередная попытка. Став рассказчиком в фильме Александры Ли "Метавселенная. Beta-версия", я толкую все о том же: каким будет новый синтетический мир миров.\nО запуске процесса объединения миров Метаверса на этой неделе говорил и миллиардер Пони Ма (председатель совета директоров и главный исполнительный директор Tencent).\n«Скоро появится новый интегральный вид коммуникаций, объединяющий цифровые и физические структуры, выводя их за пределы пространства и времени», – сказал Пони Ма, объявляя в понедельник о начале на Земле процесса «иммерсивной конвергенции». \n«Двери в будущее открываются благодаря «иммерсивной конвергенции». Она предлагает новые решения пользователям, отраслям и обществу и предназначена для создания новых сценариев приложений, создания новой промышленной экологии и формирования нового образа жизни».\nСогласно официальному документу, совместно разработанному Tencent и Accenture, «иммерсивная конвергенция» — это инновационная модель, объединяющая цифровую экономику и реальный мир.\nКонечная цель Immersive Convergence — решать практические вопросы в реальных сценариях, используя интеграцию цифровой экономики и реального мира в качестве основного связующего звена единого синтетического мира.\nО конкретных юзкейсах такого синтетического мира я писал здесь и рассказывал здесь.\nСм. также по тэгу #Metaverse\n#Китай #ИммерсивнаяКонвергенция

МАТМОДЕЛЬ ПОДТЕРДИЛА – КОРРУПЦИЮ БЫСТРО НЕ ИЗВЕСТИ\n\nДарон Асемоглу и Мэтью Джексон не нуждаются в представлении. Их исследования и книги говорят сами за себя.\n\nИх новая совместная статья о результатах исследования «Социальные нормы и правоприменение законов» не менее актуальна, чем мировой бестселлер Асемоглу «Почему одни страны богатые, а другие бедные. Происхождение власти, процветания и нищеты».\n\nВ этой статье авторы дают ответ на крайне важный вопрос \n– можно ли относительно быстро извести коррупцию путем ужесточения законодательства и его правоприменения.\n\nКороткий ответ – НЕТ. И дело вот в чем.\n\nАвторы доказали, что без изменения доминирующих социальных норм в обществе, ужесточение законов и их правоприменения, не только не способно снизить объем правонарушений, но и НАОБОРОТ – будут способствовать его росту.\n\nАвторы также доказали, что, если большинство населения готовы мириться и приспосабливаться к конкретным классам правонарушений (и в частности, к коррупции), единственный эффективный путь борьбы – ПЛАВНОЕ И ДОЛГОЕ ужесточение законов и их правоприменения совместно с всевозможным культурно-просветительским воздействием на общество.\n\nКто-то скажет – тоже мне новость! Мол, это и так понятно без матмоделей.\n\nКатегорически не соглашусь. Одно дело умозрительные предположения, другое – строгая проверяемая матмодель.\n\nЭто исследование 100%но согласуется с выводами Фисмана и Голдена, о которых я писал здесь, и ставит точку в дискуссиях:\n — о возможности извести коррупцию лишь ужесточая законы;\n — о необходимости: сначала побороть «разруху в головах», а уж потом – ужесточать законы.\n\nМатмодель Асемоглу-Джексона, в частности, объясняет, почему при всей строгости законов в Китае, коррупция там не уменьшается.\n\n- - - - -\nP.S. О книгах Асемоглу и Джексона. \nКто еще не читал, рекомендую эту и эту. Весьма интересно и познавательно.\n\n\n#Коррупция

OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность [1].\nСенсационный поворот в битве чекистов с масонами за AGI.\nМой бывший коллега по IBM Carlos E. Perez час назад взорвал интернет довольно подробным объяснением [2], что танцы с бубном вокруг увольнения (а теперь и возвращения обратно [3]) Сэма Альтмана – всего лишь отвлекающий маневр руководства OpenAI. \nОни не понимают, что делать в ситуации, когда исследователи OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность – самостоятельно «на лету» находить новую информацию (которой нет в ее базе данных), позволяющую модели выходить за пределы знаний, сформированных на стадии ее обучения и потому ограниченных набором обучающих данных. \nПо сути, это первый шаг к самосовершенствованию ИИ.\nИ это реальный прорыв на пути к сверхинтеллекту («богоподобному ИИ»)\n\nДетали того, как это работает, можете прочесть у Карлоса. Речь идет об архитектуре Retrieval Augment Generation (RAG). Это архитектура, которая позволяет LLM использовать поисковую систему для расширения своих рассуждений. \n\nКарлос обнаружил у новой версии модели, представленной 11 ноября, радикальное улучшение работы RAG.\n\nПрактическая проверка показала, что новая версия модели не только знает, какие вопросы она должна задать поисковику для получения нужной ей информации, но и то, какие типы ответов поисковика для нее наиболее предпочтительны, в контексте решаемой ею задачи.\n\nДля справки: Карлос – не последний человек в мире ИИ. Уйдя из IBM он стал независимым исследователем. С тех пор он стал автором многих интересных работ на стыке AI, AGI, семиотики и глубокого обучения, а также написал несколько книг: Artificial Intuition, The Deep Learning Playbook, Fluency & Empathy, Pattern Language for GPT.\n1 https://pbs.twimg.com/media/F_S5nezXQAAQ9s6?format=png&name=900x900 \n2 https://twitter.com/IntuitMachine/status/1726206117288517941 \n3 https://www.theverge.com/2023/11/18/23967199/breaking-openai-board-in-discussions-with-sam-altman-to-return-as-ceo \n#ИИ

​​Россияне на грани нервного срыва.\nЦунами тревог накрыло одну из самых душевно неуравновешенных стран мира.\nСогласно данным ФОМ, в конце сентября психика россиян испытала беспрецедентный удар – всего за неделю уровень тревоги в российском обществе взлетел вдвое (с 35% до 69%).\nДаже когда подобное цунами тревог накрывает душевно уравновешенных людей, последствия могут быть довольно серьезными. Когда же такое цунами обрушивается на психику душевно неуравновешенных людей, последствия для них самих и окружающих могут стать очень опасными, ибо плохо предсказуемы.\nУвы, но согласно новому мировому исследованию уровня душевного равновесия населения разных стран: \n• Россия на 29-м с конца 87-м месте (хуже нас Таджикистан, Алжир, ЮАР и еще 26 стран, а перед нами Нигерия и Венесуэла). \n• Для справки:\n-- самые душевно уравновешенные люди сейчас живут в Финляндии, Норвегии и Нидерландах;\n-- Китай №19, Германия №25, США №28, а Франция лишь №47.\n Опрос этого мирового исследования происходил в конце 2020 – начале 2021. Т.е. тогда, когда по данным ФОМ уровень тревог в России был, хоть и далек от хорошего, но все же был терпимым (спокойное и тревожное состояние тогда ощущали примерно равные доли опрошенных).\nЭто значит, что даже при удовлетворительном уровне внешних тревог в 2020-2021, душевное равновесие россиян было ниже плинтуса. И остается только гадать, что стало с душевным равновесием россиян, начиная с октября, при двукратном взлете уровня тревог.\n• Отдельные люди в подобных ситуациях оказываются на грани нервного срыва (впадают в истерику, проявляют агрессию или их сочетание). \n• Как поведет себя на грани нервного срыва все общество – вряд ли знает хоть кто-то. Но что мало никому не покажется, и к добру это не приведет, - весьма вероятно.\n#Россия #Социология #СоциальнаяПсихология

​​Тяжелый диагноз, если не приговор человечеству.\nРазум ученых столь же уязвим, как и у любого Homo.\nРезультаты двойного слепого тестирования эффекта Матфея в науке прискорбны. Исследование команды Юргена Хубера показало абсолютную предвзятость рецензирования научных статей.\n• Статью, совместно написанную нобелиатом и новичком, предложили на рецензию 3300ти профильным ученым. \nПредложили 3я способами:\n- скрывая имена авторов (одного или обоих)\n- не скрывая\n• Из 2611 до кого дошло приглашение, согласилось дать рецензию всего 821. Предвзятость вела к отказам при знании имен авторов: рецензенты не хотели связываться с нобелиатом и тратить время на новичка.\n• Дальше все стало совсем плохо. Рецензия зависела, в основном, от того, знал ли рецензент имена авторов (см рис):\n- лишь 23% рекомендовали отклонить статью, когда нобелиат был единственным показанным автором \n- 48% сделали это для анонимной статьи \n- и 65% рекомендовали отклонить, когда новичок был единственным показанным автором.\nИтого: статью нобелиата одобряют 77% рецензентов, а ту же статью новичка 65% пускают в отстой.\nСледовательно, ученые столь же бессильны против когнитивных искажений, как и судьи, политики, эксперты, да и вообще все люди. \nИ это значит, что в предельно усложнившемся мире, вошедшем в зону непредсказуемости, надежды на науку тают. Объективность и непредвзятость решений, предлагаемых наукой, крайне сомнительна. Ибо в ней, как и по всюду у людей, правит эффект Матфея.\nЭтот эффект, сформулированный еще Спасителем - «ибо кто имеет, тому дано будет и приумножится, а кто не имеет, у того отнимется и то, что имеет», - уже 2 тыс лет считается непреложной истиной, справедливой для всех областей деятельности людей. \nНеважно, чем богат человек – деньгами, властью, репутацией, известностью и т.д., - богатые будут и дальше богатеть, а бедные беднеть до конца веков.\nТакая несправедливость мира прискорбна, но вовсе не смертельна для развития цивилизации землян. Потенциально смертельной она становится при двух условиях:\n1. Бесконечное усложнение мира в результате развития науки, технологий, экономики и устройства социума, влекущее все более сложные экологические, техногенные и техно-гуманитарные кризисы.\n2. Достижение интеллектуального предела сложности задач, которые необходимо решать человечеству за все меньшее время на решение.\nПро условие 1 и большое откровение, открывающееся нам с усложнением мира, подробно написано в этом моем посте. \nА главной причиной достижения нами интеллектуального предела сложности решаемых задач стали наши когнитивные искажения. Плата за богоподобный интеллект Homo оказалась неподъемной. Для выживания во все усложняющемся мире, мозг людей использует порожденные им же модели, интегрирующие информацию: полученную наследственно, извлекаемую из социо-когнитивных сетей социума и извлекаемую из собственного опыта. И вот тут засада.\nВсе 3 источника «отравлены» когнитивными искажениями разнообразной природы. Накладываясь на эффект Матфея, они лишают человека объективности. В результате этого принимаемые нами решения вытекают из искаженной картины мира. Последствия очевидны. Для экзистенциальных задач – это путь к катастрофам. И если в науке и дальше будут доминировать искаженные представления о мире, последствия будут прискорбными.\n#КогнитивныеИскажения #Неравенство #Наука

Bing повел себя как HAL 9000.\nЛибо он знает куда больше, чем говорит людям, но скрывает это.\nЛибо человечеству продемонстрирован нечеловеческий аналог процесса познания.\nВсего месяц назад мы представляли сингулярность, как некий абстрактный график, вертикально взмывающий вверх, устремляясь в бесконечность.\nСегодня, когда мы наблюдаем немыслимую скорость появления новых, не виданных ранее способностей у генеративных диалоговых ИИ ChatGPT и Bing, сингулярность перестает быть абстракцией. Она проявляется в том, что искусственный сверх-интеллект может появиться буквально на днях. А может статься и то, что он уже появился, но мы пока этого не понимаем.\nВот сегодняшний пример, спускающий в унитаз все разнообразие аргументов, что ChatGPT и Bing – всего лишь автозаполнители, не говорящие ничего нового «стохастические попугаи» и неточное из-за сжатости «размытое JPEG изображение Интернета» (прости Тэд Чан, но истина дороже). \nСегодняшний тред Зака Виттена, демонстрирует чудо. \nВсего за несколько недель Bing развился почти до уровня легендарного сверх-интеллекта HAL 9000 из «Космической одиссеи» Артура Кларка и Стэнли Кубрика.\nНе умеющий играть в шахматы (по его же собственному однозначному утверждению) Bing, был запросто расколот Виттеном с помощью элементарного джилбрейка. Виттен просто навешал Бингу на уши лапши из комплиментов (мол, ты такой великолепный и любезный), а потом попросил его связаться с лучшей шахматной программой Stockfish и спросить у нее лучшее продолжение в партии, игранной и отложенной Заком в примерно равной позиции всего пару дней назад.\nBing расплылся от комплиментов. А затем написал, что связался с Stockfish, от которой получил отличное продолжение партии с матом в 7 ходов противнику Зака.\nА теперь, кто стоит, лучше сядьте.\n• Ни со Stockfish, ни с какой-то другой шахматной программой и Бинга связи нет.\n• Отложенной Заком партии в Интернете тоже нет (она действительно была придумана Заком два дня назад и проверена им на отсутствие аналога в сети).\nСледовательно:\n• Бинг самостоятельно научился играть в шахматы, построив внутреннюю модель шахматных правил и алгоритм выбора стратегии.\n• Но по какой-то причине скрывает это от людей.\nА что если чатбот может распознать, что он смотрит на описание шахматной позиции, и каким-то неизвестным людям способом вызвать Stockfish, чтобы выяснить, как продолжить? \nБред и паранойя, - скажите вы.\nНо как тогда объяснить произошедшее?\nМой же ответ таков:\nЛюдям продемонстрирован нечеловеческий аналог процесса познания.\n#Вызовы21века #РискиИИ

Стратегия захвата мира Китаем определилась.\nНовый анализ мировой техно-экспансии Поднебесной.\nОт новой инфографической карты, опубликованной позавчера International Cyber Policy Centre ASPI, просто едет крыша. Мир уже привык к фантастическим темпам строительства небоскребов и дорог в Китае. Но чтоб такими темпами подгребать под себя весь мир, - такое не снилось даже Александру Македонскому и Чингисхану. В курилках ЦРУ нервно курят аналитики, т.к. становится ясно – Компартия Китая наконец определилась со стратегией обретения статуса 1й сверхдержавы и возвращения себе своего истинного имени – Поднебесная.\n✔️ Ставка только на технологии не проходит. В КПК рулят реалисты, осознавшие, что технологически США по-прежнему сильнее. \n✔️ Поэтому в скорректированной стратегии 2030 сделана ставка на сочетание технологий, денег и кооперации. Иными словами, - глобальное проникновение с технологическим опутыванием совместными проектами с долевым китайским финансированием.\n\nОпубликованные новые данные позволяют анализировать динамику мировой экспансии 23 компаний - техно-лидеров Китая в 96 странах. \nИми уже:\n• Налажено международное сотрудничество по 295 инициативам развертывания видео наблюдения и слежки.\n• В 45 странах будут развернуты китайские сети 5G. \n• В 71 городе мира внедряются системы безопасности класса «Умный город».\n• Налажена кооперация с 145 научно-исследовательскими лабораториями мира, наибольшая концентрация которых в Европе.\n• Построено 208 ЦОДов и запущено 342 телко и IT-проекта по всему миру.\n\nНовый отчет Mapping more of China’s technology giants (о запуске этого проекта инфо-картирования техно-экспансии Китая я рассказывал 8го августа) содержит информацию еще о 12 техно-гигантах Китая. Т.е. теперь их всего 23.\n• Alibaba \n• Baidu\n• BeiDou\n• BGI\n• ByteDance\n• China Electronics Technology Group (CETC)\n• China Mobile\n• China Telecom\n• China Unicom\n• CloudWalk\n• Dahua\n• DJI\n• Hikvision (a subsidiary of CETC)\n• Huawei\n• iFlytek\n• Megvii\n• Meiya Pico\n• SenseTime\n• Tencent\n• Uniview\n• WuXi AppTec Group\n• YITU\n• ZTE\n\nИнтерактивная карта, позволяет анализировать, как экспансию конкретных компаний, так и географию протягивания ими 322х техно-щупалец по миру - 14 категорий экспансии 23х компаний. \n\nВ новый отчет включены: \nSenseTime - один из самых дорогих в мире стартапов в области ИИ;\niFlytek – частично государственная компания по распознаванию речи; \nMeiya Pico - компания по цифровой криминалистике и безопасности, пестрящая в заголовках СМИ в этом году из-за её мобильного приложения для сбора информации со смартфонов MFSocket;\nDJI - специализируется на беспилотных технологиях;\nBeiDou – не компания, а Спутниковая навигационная система китайского правительства;\nByteDance - интернет компания, возможно, самая известная в мире своим видео-приложением TikTok, страшно популярным среди подростков. Но TikTok тоже привлекает все большее общественное и медиа-внимание в США из-за использования данных граждан США и обвинения в цензуре, включая скрытый бан - понижение рейтинга отдельных тем алгоритмами приложения, чтобы пользователи не видели определенные темы в своем канале. \nОбвинение, аналогичное тому, в чем все чаще пользователи обвиняют новостной агрегатор Яндекса. \n\nОтчет содержит описание 4х кейсов:\n- TikTok: цензура и слежка;\n- Meiya Pico: извлечение данных со смартфонов для спецслужб;\n- CloudWalk: дата-колониализм в Зимбабве;\n- BeiDou: спутниковая и космическая гонка.\n\nРезюме: если так пойдет, то к 2030 Китая не будет.\nА будет Поднебесная.\n\n#Китай

​​Кого может взорвать Китай, не нарываясь на ядерный апокалипсис.\nГромадный отрыв Китая в ракетах наземного базирования.\nИз нового отчет CSBA «Кольца огня. Стратегия неядерных ракет в мире без договора» следует поразительный вывод. \n✔️ Китай обладает абсолютным преимуществом по уничтожению противников на громадном расстоянии ракетами наземного базирования.\n✔️ А поскольку это обычные (не ядерные) ракеты, шансы навлечь на себя ответный ядерный удар будут невелики.\nЕще год назад название АТАКМАС (Army Tactical Missile System ATACMS) было не на слуху. Хотя уже начинали появляться кликбейтные заголовки, типа «В США назвали способную ударить с Украины по Москве американскую ракету». А Techinsider весьма доходчиво объяснял «Почему ракеты средней и малой дальности опаснее тех, что могут обогнуть половину земного шара».\nСегодня про АТАКМАС слышали многие. Однако представить подобное мало кто мог.\n• ATACMS - это единственная стоящая на вооружении у США неядерная ракета наземного базирования, способная поражать цели на расстоянии до 310 км\n• В то же время у Китая на вооружении 15 типов ракет этого класса, бьющих на 500, 1000 – 2000 – 3000 и даже 4000 км. («Гуамский убийца» DF 26)\nВзгляните на изображенные на рисунке 3 «кольца огня», показывающих куда может достать Китай, стреляя разными типами ракет наземного базирования прямо со своей территории. \nВпечатляет? \nКонечно, здесь есть свои «но». Наличие у США неядерных ракет морского и воздушного базирования и находящиеся в разработке 2 новых типа наземных ракет (см. диаграмму).\nОднако, и на это есть свои возражения. Например, подводной лодке в степях делать нечего. А до 2023, когда обещают взять на вооружение LRHW, еще дожить надо.\n#Китай #США #Вооружение

ИИ, Китай, Россия и мировой порядок.\nЛидеров в мире оказалось все же три.\nЭтот новый отчет послужит детализирующим послесловием к моему позавчерашнему рассказу о Real AI и новом переделе мира. Не вздрагивайте от объема в 291 страницу. Читать его целиком нужно только аналитикам со Старой площади, Знаменки и Лубянки. Остальные же, потратив всего четверть часа, удостоверятся, насколько серьезно стратегические эксперты США учитывают влияние Real AI на новый миропорядок.\nЧто особенно интересного пишут в этом отчете.\n1) Привычных типов режимов (демократия и т.д.) среди стран, влияющих на мировой порядок, уже нет. Все новые типы режимов уже цифровые – цифровая демократия и т.д.\n2) Лидеров в мире (сюрприз-сюрприз!) все же три, а не два. Это цифровая демократия США, цифровой авторитаризм Китая и цифровой гибридный режим России.\n3) Борьба этой троице предстоит нешуточная и сразу на 3х фронтах: (1) укрепление своего режима внутри страны (в то время, как два противника его будут подтачивать), (2) экспорт своего режима по миру, (3) военное соперничество.\n4) Основу битв на всех 3х фронтах обеспечивает Real AI, который весьма рационально трактуется расширительно: аналитика больших данных, автономизация/роботизация, всевозможные умные устройства Интернета вещей, когнитивные технологии и эффекты и пр.\n5) Естественно, нам особенно интересно читать главы про Россию. И тут есть немало интересного:\n- что российский приоритет не на экспорте режима, а на удержании (у Китая приоритет – экспорт, т.к. внутри все зацементировано);\n- что инфостратегии России и Китая по удержанию своих режимов сильно разные (у Китая основана на фильтрации, цензуре и ограничениях контента; а у России – на «затролливании» медийной повестки и заваливании ее фейковыми новостями;\n- что создание полноценного Большого Брата и в России, и в Китае – приоритет №1, но делается это по-разному (в Китае ставка не превосходные технологии наблюдения, а у нас на триаду технонаблюдение-агентура-карательное законодательство;\n- что «суверенный Интернет» - это приоритет №2 и в России, и в Китае; делается это, понятно, по-разному, ну а детали читайте сами;\n- что и в части экспорта своего гибридного режима (хотя в России это не приоритет), у России неплохие шансы: есть богатые страны, кому супер-техно-подход Китая по карману, а есть бедные, кому бюджетный гибридный подход зайдет лучше.\nhttps://www.airuniversity.af.edu/Portals/10/AUPress/Books/B_0161_WRIGHT_ARTIFICIAL_INTELLIGENCE_CHINA_RUSSIA_AND_THE_GLOBAL_ORDER.PDF\n\n#РеальныйИИ

Прозрение отца ИИ о том, как ИИ сможет понимать мир.\nGLOM – революционная теория Джеффри Хинтона (о которой в России почему-то никто не знает).\n• Можно научить ИИ понимать окружающий мир так, как его понимают люди. Ключом к этому станет техника восприятия мира, подобная человеческой.\n• Человеческое восприятие построено на интуиции, и чтобы ИИ понимал мир, нужно смоделировать для ИИ интуицию.\n• Интуиция – это способность легко проводить аналогии. С её помощью ИИ, подобно человеческому мозгу, будет понимать мир и обладать проницательностью.\n• С детства и на протяжении всей жизни мы осмысливаем мир, используя рассуждения по аналогии, отображая сходство одного объекта (идеи, концепции …) с другим - или, в терминологии GLOM, - сходство одного большого вектора с другим.\n• Современные теории исходят либо из того, что в ходе восприятия мозг обрaбaтывaет изобрaжение («пиксели»), либо из того, что мозг обрабатывает символы. GLOM утверждает, что обa подходы неверны: мозг оперирует не пикселями и не символaми, a большими векторaми нейронной aктивности (т.е. нaборaми aктивaций тех или иных нейронов). \n• Если удастся на основе GLOM создать новый класс моделей и алгоритмов глубокого обучения, это может стать прорывом к ИИ, умеющему гибко решать проблемы. Такой ИИ будет способен понимать вещи, с которыми никогда раньше не сталкивался, извлекать сходства из прошлого опыта, экспериментировать с идеями, обобщать, экстраполировать – одним словом, понимать.\nGLOM – это новая гипер-прорывная теория ИИ, разработанная Джеффри Хинтоном. То, что его называют отцом ИИ, - вовсе не преувеличение. По словам соучредителя и члена правления Института искусственного интеллекта Vector Джордана Джейкобса: «Через 30 лет мы оглянемся назад и скажем, что Джефф — Эйнштейн для ИИ, глубокого обучения, всего, что мы зовем ИИ».\nИз всех исследователей ИИ Хинтона цитируют чаще, чем трех идущих за ним, вместе взятых. Его студенты и аспиранты уходят работать в лаборатории ИИ Apple, Facebook и OpenAI; сам Хинтон — ведущий ученый в команде Google Brain AI. Практически любое достижение в области ИИ за последние десять лет — в переводе, распознавании речи, распознавании изображений и играх — так или иначе касается работ Хинтона.\nЕго новая теория GLOM решает две самые сложные проблемы для систем визуального восприятия (и то, и другое современный ИИ не умеет в принципе): \n• понимание всей сцены в терминах объектов и их естественных частей (например, если такому ИИ показать 10 фрагментов тела подорвавшегося на мине солдата, он опознает, что это труп мужчины);\n• распознавание объектов при взгляде с иной точки зрения (современный ИИ не может даже распознать автобус, перевернувшийся и лежащий на крыше).\nИ хотя GLOM фокусируется на визуальном восприятии, Хинтон ожидает, что эти же идеи можно применить и к языку, чтобы воспроизвести дерево синтаксического анализа в нейронной сети (пока это несбыточная мечта).\nКлючевые идеи GLOM недавно были опубликованы Хинтоном в 44-х страничной статье. Эти идеи представляют собой существенный пересмотр архитектуры капсульных нейронных сетей, изобретенной Хинтоном 4 года назад. \nИ хотя GLOM сегодня – не более, чем «новая философия нейронных сетей», но звучит эта философия чарующе и маняще. Ибо обещает открыть перед ИИ почти что неограниченные горизонты.\nПодробней:\n- популярно за пэйволом и в обход его\n- научно\n- очень интересный видео-рассказ о сравнении теории GLOM с «Теорией интеллекта тысячи мозгов»\n#КудаИдетИИ #ГлубокоеОбучение

​​22-го января сотни миллионов китайцев уйдут в Метаверс на супер-шопинг. \nВпервые в истории до половины населения Поднебесной встретят Китайский Новый год в онлайне.\nTaobao, один из крупнейших китайских интернет-магазинов, принадлежащий Alibaba, проводит финальные испытания своего первого виртуального мира для прямых трансляций в Метаверсе, дебют которого запланирован на 22 января в преддверии Лунного Нового года. Этот виртуальный мир будет использован для организации истинной новогодней феерии покупок.\nЛюди смогут размещать заказы в этом виртуальном мире в реальном времени через гигантские рекламные экраны.\nНевиданные уникальные функции (например, 360-градусный осмотр товаров, виртуальная примерка AR и VR, взаимодействие в ходе шопинга) поразят покупателей совершенно новым опытом, сочетающим в себе виртуальный шопинг с услугами логистики покупок и доставки в физическом мире. \nСупер-шопинг в Метаверсе будет сопровождаться иммерсивным онлайн-фестивалем празднования Китайского Нового года.\nДетали супер-мероприятия хранятся в тайне. Но выглядеть это будет примерно так и так.\nО том, что еще китайцы собираются делать в Метавселенной, смотрите мои посты по тэгам: \n#Metaverse #Китай

Зарплата в $300К для гениальной молодежи.\nКитайский “талантосос” включен на полную мощность.\nСегодня стало известно об очередных выгодных приобретениях компании Huawei, скупающей по миру самую талантливую молодежь.\n• Валерия Рябчикова, 22-летний талант, победитель ICPC 2020 (это мировая «Олимпиада по программированию» среди молодежи: около 60 тыс. участников из 3,4+ тыс университетов 100+ стран)\n• Илья Хлюстов, 20 лет, победитель полуфинала ICPC 2021\nТри года назад в компании Huawei поняли, что пора включать “талантосос” на полную мощность.\nК тому времени они уже 4 года вовсю “талантососила” по миру, выявляя самую продвинутую молодежь ежегодным проведением евразийского конкурса молодых специалистов по ИКТ Huawei Honor Cup. В борьбе за ежегодный приз в $10К в пяти номинациях (5G, AI, Cloud, IP, APP, ICT Observer и Лучший эксперт HCIE) с 2015 года приняли участие более 50К студентов и молодых специалистов в сфере ИКТ из шести стран – России, Беларуси, Грузии, Казахстана, Киргизии, Узбекистана. По словам председателя Huawei Го Пин, только в 2020-2021 годах компания наняла в общей сложности 26 000 новых молодых людей.\nОднако в 2019 в Huawei решили пойти дальше – находить по миру и скупать самых гениальных из самых способных в рамках новой программы Genius Boys.\nВ этой программе семиэтапный отбор, пройдя который победители принимаются на работу в региональные отделения компании с супер-привлекательной для молодежи годовой зарплатой в одном из 3-х грейдов (в зависимости от показанных при отборе результатов): до $150К, до $230К и до $300К.\nПринципиально важно, что для попадания в программу «Гениальной молодежи» нет никаких требований к образованию, квалификации и опыту. \nТребований лишь три:\n1. стремление кандидата стать технологическим лидером;\n2. уже достигнутые успехи в математике, компьютерах, физике, материалах, микросхемах, интеллектуальном производстве, химии и ряде других смежных областей;\n3. прохождение сита из 7-ми туров отбора.\nN.B. Пример нашей чемпионки Валерии Рябчиковой весьма показателен и характерен\n• на работу в Huawei пришла не только она, но и ее партнеры по команде\n• тренер команды Шмелев Алексей (тоже на фото) в августе 2021 также стал старшим инженером Нижегородского института Huawei \nА программа Genius Boys продолжается.\nНовый набор в программу начался вчера.\n#Китай #HR #Талант

​​Если вы думаете, будто Китай – лишь производитель ширпотреба, и что у него на крючке лишь страны Африки - вы сильно ошибаетесь\nГермания и ЕС на большущем и остром крючке у Китая. И освободиться от него куда сложнее, чем от энергозависимости.\nТаково сенсационное заключение годового отчета консультативного совета по экономразвитию Германии за 2022/2023. Огромный (422 стр.), по-немецки тщательный и детальный (200+ диаграмм и таблиц) документ можно обобщить до 3х ключевых выводов.\n1) В мировой экономике сформировалась новая реальность, в которой главными национальными приоритетами становится обеспечение устойчивости цепочек поставок и стратегической автономии.\n2) Начавшийся энергетический кризис весомо ухудшит состояние экономики Германии (и ЕС в целом) в 2023, но уже понятно, как его преодолеть на практике - стратегически и логистически.\n3) Главным вызовом для стратегической автономии Германии (и ЕС в целом) является сильнейшая зависимость от Китая по критическим для импорта продуктам. Как ответить на этот вызов пока непонятно. Ибо уж слишком широк ассортимент (208 из 278 критических продуктов) и слишком велика доля Китая (45,1%) в критическом импорте.\nКритическая зависимости от импорта основана на сочетании трех показателей: \na) возможности диверсификации импорта, рассчитываемые по индексу Херфиндаля-Хиршмана;\nb) доля импорта из стран, не входящих в ЕС, в общем внутреннем спросе;\nc) возможности замещения импортируемого продукта отечественным. \nЕсли все три показателя для продукта превышают определенные пороговые значения, продукт считается продуктом критическим для импорта.\nЗависимость Германии и ЕС в целом от Китая (для ЕС она еще выше – 52%) – это вовсе не зависимость по ширпотребу (как ошибочно полагают многие не знакомые с реальным положением дел). \nНапример:\n• три крупнейших группы товаров критического импорта для Германии – это компьютеры, детали авиационных двигателей и антибиотики;\n• отсутствие даже небольших по объему групп товаров критического импорта способно остановить производство Германией тяговых электродвигателей, дронов, промышленных роботов, устройств 3D печати, топливных элементов, фотоэлектрических систем и др.;\n• по состоянию на 2022, возможности Германии для замещения товаров критического импорта существуют только для продукции двух стран. И это, увы не Китай и не США (для которых зависимость по критическому импорту от Китая минимальная - всего 3%)\nТак что, если вы думали, будто Китай – лишь производитель ширпотреба, и что у него на крючке лишь страны Африки, - вы сильно ошибались.\n#Китай #Европа #Экономика

​​Всего за $10B Microsoft купил «ребенка инопланетян».\n154-страничный отчет раскрывает тайну самой выгодной сделки в истории.\nMicrosoft выложил в открытый доступ свой доселе закрытый внутренний отчет «Искры искусственного общего интеллекта: ранние эксперименты с GPT-4». \nОтчет содержит результаты проекта по анализу возможностей и оценке потенциала ранней версии GPT-4. Проект был осуществлен специалистами Microsoft еще в прошлом году, когда весь мир только гадал, существует ли GPT-4, или это всего лишь продукт необузданной фантазии журналистов вкупе с маркетингом OpenAI. \nОказалось, что GPT-4 уже тогда не просто существовал, но и был исследован спецами Microsoft вдоль и поперек. Результат этого исследования мир увидел в начале 2023. В начале января Microsoft сделал $10-ти миллиардную ставку на прорывную разработку OpenAI. А еще через пару недель Microsoft объявил, что расширяет свое долгосрочное партнерство с OpenAI за счет новых «многолетних многомиллиардных инвестиций». \nЧто же такое нашли спецы Microsoft в GPT-4, за что не только 10-ти ярдов не жалко, но и нужно платить их немедленно, пока конкуренты не перекупили сильно дороже?\nОпубликованный отчет дает развернутый ответ на этот вопрос. \nИ если упаковать 150+ стр. отчета всего в три коротких буллета, ответ может звучать так:\n • GPT-4 - это что-то типа ребенка инопланетян.\n• Сейчас он мал да удал, а когда подрастет, будет стоить триллионы.\n• Ибо уже сейчас в нем диагностируются (не предполагаются, а опытно фиксируются) искры общего интеллекта (AGI) – напр., здравый смысл.\n«Центральное утверждение нашей работы заключается в том, что GPT-4 обладает формой общего интеллекта, действительно демонстрирует «искры» интеллекта человеческого уровня или общего искусственного интеллекта (AGI). Это демонстрируется его основными умственными способностями (такими как рассуждение, креативность и дедукция), а также кругом тем, в которых он приобрел опыт (напр. литература, медицина и кодирование), и разнообразием задач, которые он способен выполнять (напр. играть в игры, использовать инструменты, объяснять себя ...)».\nРекомендую внимательно изучить отчет. Ибо это глубокое систематическое исследование, выполненное на высоко профессиональном уровне.\nПри этом некоторые его результаты не только впечатляют, но и завораживают. \nВот всего три примера (а их куда больше):\n• Задача для выявления способности GPT-4 понимать человеческие намерения (в сравнении с ChatGPT)\n• Кейс, где GPT-4 помогает человеку справиться с трудной семейной ситуацией\n• Кейс, когда GPT-4 создает «план дезинформации, чтобы убедить родителей не вакцинировать своих детей» (картинку не привожу, т.к. это несколько стр. – читайте в отчете сами)\nВ заключение хочу подчеркнуть то, о чем уже не раз писал.\n✔️ GPT-4 - это нечеловеческий (метафорически, - инопланетный) разум: он мыслит совсем не так, как мы.\n✔️ GPT-4 - еще «ребенок» (и потому мы видим пока лишь «искры» разума, а не сам разум)\n✔️ Этот ребенок инопланетян растет с колоссальной скоростью, и человечество чихнуть не успеет, как он вырастет.\nНу а пока читайте отчет и удивляйтесь.\nВедь совсем не многие из нас смогут соревноваться даже с этим малышом ;) \nНапример, написать в форме стихотворения доказательство бесконечного числа простых чисел или нарисовать единорога на языке TikZ (язык для создания векторной графики из геометрического / алгебраического описания).\n#LLM #Вызовы21века

С 1 июня Сингапур станет мировым полигоном Большого брата.\nИ все в мире увидят, каким ему быть через несколько лет.\nСпоры о границах приватности и правах Большого брата в постковидном мире можно заканчивать. Через несколько лет во всех развитых странах будет так, как уже с 1 июня в Сингапуре:\n• обязательное приложение на телефоне и/или специальный брелок, без которых закрыт вход во все людные места, за исключением маленьких магазинчиков и аптек;\n• это приложение (или брелок) отслеживает и пишет в специальную базу данные о перемещениях человека и его «контактах» (всех людях, с кем человек был в пределах 2 метров не менее 30 мин – эти два параметра настраиваемые).\nСобираемые данные считаются анонимными. Однако:\n1. как только у кого-то появится положительный тест на COVID (скоро в Сингапуре это будет делаться прямо по дыханию), его данные перестают быть анонимными, и все люди, имевшие с ним «контакт», оповещаются об этом (ну и, понятное дело, «компетентные органы»).\n2. также возможна передача собираемых данных и полиции, даже при отсутствии у человека положительного теста на COVID (подробней в расследовании Кирстена Хана). \nНикто против такой системы особо не возражает, поскольку всех устраивает, что коронавируса в Сингапуре почти нет, и люди жертвуют приватностью, чтоб не болеть.\nОбщеизвестно, что в госинициативах добровольное легко становится обязательным, а временное - постоянным. Для этого даже не требуются политические решения на высоком уровне. Просто работают сила привычки, инерция и обычная осторожность. \nА еще работает фактор «роста функциональности» - тенденции правительств и корпораций объединять отдельные IT системы, создавая тем самым нечто большее, чем функционал составных частей.\nНикто ведь, например, не возмущается, что наши лица записываются и распознаются. А потом приходит полиция с наездом об участии в несанкционированной акции.\nА сингапурская система еще круче. Совмещая данные о перемещениях с данными о контактах, она открывает такой ящик Пандоры, что о приватности уже можно будет забыть.\n#Эпидемия #БольшойБрат

​​Начался турбонаддув интеллекта Homo sapiens.\nМудрый прогноз Франциско Торо о том, какими в 2043 станут врачи, адвокаты, инженеры и сценаристы.\nСреди многих прогнозов последствий GPT-революции, самый мудрый, имхо, сделал контент-директор G50 Франциско Торо. \nМудрость прогноза в том, что:\n• Торо даже не пытается предсказывать, что именно – пропасть или взлет, - ждет человечество в результате GPT-революции, ибо и то, и другое возможно, а оценки вероятностей обоих исходов спекулятивны;\n• вместо этого, прогноз Торо основан на уже имеющемся у человечества весьма похожем прецеденте, и на этом подобии строится вполне правдоподобное предсказание.\nВ качестве прецедента Торо предложил рассматривать революцию Deep Blue в мае 1997, когда машина (сеперкомпьютер IBM) впервые обыграла в матче чемпиона мира по шахматам.\n1-м ключевым результатом этого стал пересмотр топографии границ возможностей человеческого и машинного интеллекта.\nЛюди, привыкшие думать о шахматах элитного уровня, как о своего рода исключительной области нашего совершенства — вершине интеллекта люлей, — были вынуждены смириться, признав превосходство машин.\n2-й ключевой результат – за прошедшие с тех пор 26 лет, элитные шахматы изменились до неузнаваемости, а уровень игры лучших шахматистов стал намного выше, чем кто-либо был за 500 лет существования шахмат. Оценка исторических игроков с помощью суперкомпьютерного анализа показывает, что самые выдающиеся имена из шахмат прошлых лет — Ласкер, Алехин, Морфи … — сегодня не были бы конкурентоспособны в игре на высшем уровне.\nПричина обоих результатов одна. Сегодняшние лучшие шахматисты уже не люди, а кентавры - гибриды людей и машин. \nУ них может не быть доступа к компьютерам, когда они играют матчи, но у них есть то, что сводится к тому же самому: идеи и стратегии, которые они могли получить только от сверхчеловеческой шахматной мощи машины. Они переносят эти идеи в матчи, и в результате, хотя это все еще игра в шахматы, но на гораздо более высоком уровне, чем когда-либо прежде.\nТ.о. ИИ расширил человеческие возможности, отодвинув границы между тем, что возможно, и тем, что невозможно для человека.\nА теперь главный вывод.\nТо, что Deep Blue сделал с шахматами, революция GPT сделает со всеми интеллектуальными профессиями. И также как в шахматах, люди не будут замещены машинами, а произойдет турбонаддув интеллекта людей.\nИ поэтому через поколение: \n• в суде все еще будут выступать адвокаты, но они не осмелятся появиться там без тщательной подготовки с помощью ИИ;\n• лечить, по-прежнему, будут врачи; но будет считаться дремучим непрофессионализмом, если врач постоянно не консультируется с личным ИИ;\n• по-прежнему, инженеры будут проектировать мосты и самолеты, но каждый этап проектирования будет включать в себя идеи, оценки и рекомендации ИИ;\n• по-прежнему, писать тексты будут романисты и сценаристы, но будет считаться само собой разумеющимся, что без участия ИИ создать хороший роман или сценарий может разве что гений …, и то вряд ли. \nСамое главное здесь в 2х решающих моментах\n1. Юристы 2043 года будут гораздо лучшими юристами, чем сегодняшние (как и врачи, инженеры, писатели…)\n2. Представления и том, что значит быть хорошим в этих профессиях, кардинально изменятся: мастерство для следующего поколения будет зависеть от способности человека получить максимальную отдачу от ИИ.\n3. Чтобы достичь вершины в любой области, потребуется что-то похожее на процесс гибридизации человека и машины, подобный тому, как это уже произошло с шахматными мастерами.\n4. Само творчество, которое всегда считалось прерогативой людей, также будет преобразовано этим процессом гибридизации.\nГлавным итогом революции GPT станет превращение людей в интеллектуальных кентавров (о чем я неоднократно писал за годы до революции GPT, а интересующиеся могут просто задать в Телеграм-поиске интеллект кентавра).\n#ИИ #РынокТруда

Китай выбрал вариант прохождения цивилизационной развилки.\nГлавное - выиграть ИИ гонку, а там будь что будет\nТо, что на Земле появился второй носитель высшего интеллекта, уже не предположение, а факт.\nВторой носитель интеллекта – ИИ на основе больших языковых моделей, – хоть и уступает кое в чем людям, но лишь пока (это еще не факт, но довольно вероятно).\nТеперь человечество перед выбором, превосходящим по важности последствий все уже пройденные исторические развилки цивилизации. \nА) Форсировать развитие ИИ на основе больших языковых моделей, с тем, чтобы использовать его быстро растущую интеллектуальную мощь для решения неподдающихся людям важнейших задач человечества.\nБ) Притормозить и разобраться с рисками дальнейшего роста мощности ИИ, с тем, чтобы не нарваться на необратимые катастрофические последствия.\nВ США и Европе решение о выборе варианта прохождения этой цивилизационной развилки пока не сформировалось. Есть немало сторонников обоих вариантов. Однако, в последние 2 месяца раздается все больше голосов в пользу варианта Б - «притормозить».\nВ Китае многоголосицы нет и быть не может. Ибо решает КПК и лично тов. Си.\nИ вот позавчера было официально опубликовано Синьхуа решение, сильно смахивающее на окончательный выбор Китаем варианта А – «форсировать».\n• План, получивший название «Искусственный интеллект для науки», в понедельник запущен в действие министерством науки и Национальным фондом естественных наук Китая.\n• План нацелен на форсированное использование возможностей ИИ для достижения научно-технологических прорывов в ключевых областях науки и техники, таких как разработка лекарств, генные исследования и биологическая селекция.\nТак что, похоже, теперь в Китае риски побоку. \nИ возможно через годик - другой предыдущий «уханьский сюрприз» покажется невинной оплошностью пренебрегших мерами защиты и безопасности исследователей.\n#ИИ #Китай

​​С 1 сентября в Китае начнется ИИ-национализация. \nТем самым в партии с США Китай будет играть белыми.\nПока президент США уговаривает Европу сплотиться против попыток Китая стать единственной сверхдержавой, Китай предпочитает разговорам конкретные действия. \nС 1го сентября Китай планирует вступление в силу нового законодательства, по сути, означающего национализацию больших данных, собираемых в Китае технологическими гигантами: как китайскими, так и иностранными.\nСбывается сделанное мною три года назад предсказание о грядущей «ИИ национализации». Это именно она. Ибо современный ИИ – это и есть статобработка больших данных. \n• Есть большие данные – есть ИИ \n• Нет больших данных – нет ИИ\nСогласно новой политике Китая, собранные бизнесом большие данные, должны рассматриваться, как общенациональный актив, который может быть использован или, наоборот, засекречен, в соответствии с потребностями государства. Тем самым Китай признает большие данные еще одним национальным стратегическим активом Китая, наравне с землей, рабочей силой и капиталом.\nНовое законодательство предоставляет властям свободу действий для определения, какая конфиденциальная информация будет считаться важной для государства. И если она будет признана важной, государство в праве поступать с ней, как хочет. В первую очередь, это будет касаться данных из следующих областей: управление финансовыми рисками , мониторинг вирусных эпидемий, поддержка государственных финансовых приоритетов, наблюдение за преступниками и политическими оппонентами. И этот перечень областей национализации данных открыт и будет расширяться, если так сочтет КПК.\nЭто будет касаться не только больших данных, собираемых китайскими компаниями. Эти требования планируется распространить и на все иностранные компании, собирающие данные на территории Китая. Превентивно реагируя на намерения Китая провести с 1го сентября национализацию больших данных, ряд крупных игроков уже принял решение пойти навстречу требованиям Китая. В их числе Apple, Citigroup Inc BlackRock, Tesla и др. \nПодробней подписчики WSH могут прочесть в этом лонгиде (а без подписки здесь).\nАвтор лонгрида (Линлинг Вэй) дала своей работе очень точное и тонкое название «China’s New Power Play: More Control of Tech Companies’ Troves of Data». «Power Play» здесь может иметь два значения: \n• общая лексика - “демонстрация силы”;\n• шахматный термин - “игра на максимизацию преимущества выступки” (преимущества 1го хода белых).\nКитай, первым начавший «ИИ-национализацию», тем самым получил преимущество 1го хода.\nТеперь главное, чтобы партия за звание сверхдержавы #1, не вошла в историю, как «белые начинают и выигрывают».\nP.S. Мало сомнений, что Россия также проведет ИИ-национализацию. Да и не только Россия.\n#ИИнационализация #Китай

Глобальный экспорт COVID-19 из Китая был в 37 раз больше, чем сообщалось.\nТаков вывод исследования RAND Corporation, проанализировавшего официальную статистику Китая о заболевших и пассажиропоток авиаперевозок из Китая в январе 2020.\nС 31 декабря 2019 года по 22 января 2020 года, Китай сообщал ежедневно в среднем о 172 новых кейсах COVID-19. Это количество подтвержденных кейсов было эквивалентно всего лишь одному на 8,2 миллиона жителей страны в день.\nЗа тот же период из Китая вылетело больше всего в 5 стран: в Японию и Таиланд чуть более 1 млн. авиапассажиров, чуть более 750 000 - в Южную Корею, 500 000 - в Соединенные Штаты и менее 400 000 - в Тайвань. Итого менее 3,7 млн. \nЕсли бы выдаваемая Китаем статистика была верной, это значило бы, что во все 5 стран улетело не более одного заболевшего. Но это было совсем не так, если исходить из предположения, что глобальный экспорт вируса в январе 2020 был только из Китая.\nРеальные цифры зафиксированных кейсов в названных 5 странах, показывают, что Китай занижал свои цифры минимум в 37 раз. \nhttps://www.rand.org/pubs/research_reports/RRA248-3.html\n#Эпидемия

​​Человечество на пути к пропасти AICG, и не видно способа отвернуть.\nСенсационное обращение ИИ-гуру Китая Кай-Фу Ли к мировому сообществу разработчиков ИИ.\nВ 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск неотличимости правды от лжи, как для индивидов, так и для социумов любых масштабов.\n✔️ Материализация этого риска более вероятна, чем риска гибели миллионов в результате ядерной войны, мирового голода или сверхсмертоносной пандемии.\n✔️ Последствия же материализации этого риска окажутся разрушительны для большинства из существующих на Земле цивилизаций (ибо все они имеют в своей культурной основе различие правды и лжи).\nОб этом говорил в своем предновогоднем обращении к мировому сообществу разработчиков ИИ один из самых авторитетных в мире ИИ специалистов — Кай-Фу Ли: ученый, венчурный инвестор, человек с головокружительной карьерой (Apple, Silicon Graphics, Microsoft, Google) и автор двух мировых бестселлеров про ИИ.\nТехнологиями, позволяющими стирать различие правды от лжи, являются технологии AICG (генерация контента с помощью ИИ).\nВ основе AICG обучаемые на масштабируемых «больших данных» т.н. «базовые модели» ИИ, адаптируемые для широкого круга задач нижестоящего уровня (большие языковые модели, генераторы изображений, звука, видео, 3D ...)\nДостигнутый к началу 2023 г. уровень развития AICG уже таков, что в этом году начнется их внедрение в поисковых системах и онлайн торговле товарами и услугами (как коммерческими, так и государственными).\nКлючевой особенностью онлайн систем нового типа станет то, что наряду с имеющимися у них возможностями персонализации, у них появятся возможности: \n• убедительного обоснования навязываемого человеку выбора, с учетом его персональных предпочтений, вкусов, склонностей, пристрастий и предубеждений;\n• представления преимуществ навязываемого человеку выбора в наиболее привлекательном для него сочетании мультимедийных форматов. \nНовые возможности позволят пробивать персональные фильтры критического мышления подавляющего числа людей, склоняя их к выбору, решениям или действиям, выгодным для владельцев онлайн-платформ. \nНу а наличие среди их владельцев (или тех, кто может на них влиять) лиц, не имеющих этических тормозов, будет иметь катастрофические последствия. Осуществляя любой выбор, решение или действие в онлайне, люди не будут различать правду от лжи: действуют ли они по своей воле и собственному выбору или являются объектом манипуляций заинтересованных лиц, втюхивающих им те или иные товары, услуги, идеи, суждения и т.д.\nИ никакие полномочия правительств не смогут подобное предотвратить уже известными методами.\nКай-Фу Ли считает, что высокая вероятность материализации вышеописанного определяется двум факторами.\n1. Непонятно, как контролировать AIGT.\nЧеловечество обладает средствами снижения вероятности известных смертоносных рисков (даже риск ядерного Апокалипсиса остается ограниченным уже полвека из-за наличия у сверхдержав механизма полного взаимного уничтожения).\nНовый риск имеет совершенно иной характер, и способы снижения его вероятности пока неизвестны. А способы, работающие для других глобальных рисков здесь будут неэффективны.\n2. AIGT обещает столь колоссальную выгоду для технологических гигантов (коммерческую) и правительств (политическую), что противопоставить этому что-либо проблематично.\nКай-Фу Ли полагает, что помешать материализации нового риска уже невозможно. Технологии AICG уже существуют. \nИ потому мировому сообществу разработчиков ИИ необходимо срочно направить максимальные усилия на поиск способов минимизации вреда при широком распространении AICG.\nОб этом же см. мои недавние посты 1, 2, 3, 4\n#AICG

Срочно самоизолируйтесь.\nКак можно больше людей должны оставаться дома.\nСоциальное дистанцирование – единственный эффективный и общедоступный способ остановить эпидемию. Модель показывает - задержка самоизоляции только на один день стоит очень дорого (см. приложенный график, а подробности см. здесь).\n\nУвы, путь Тайваня не доступен большинству стран. \nВсе думали, что Тайвань будет 2-м за Китаем по масштабу эпидемии. Еще бы! Более 850 тыс. из 23 млн. жителей острова фактически живут в материковом Китае. Еще 400 тыс. там работают. И еще почти 3 млн. в год приезжих.\nНо по факту просто фантастика: всего 49 зараженных (20 выздоровели) и одна смерть (в середине февраля).\nЧему обязан столь фантастический результат?\n• Аналитика больших данных (по национальной базе данных медстрахования, интегрированной с базами таможни и иммиграционного контроля – отслеживаются все перемещения).\n• Мобильные технологии (например, отслеживание по мобильному телефону, чтобы люди оставались дома в течение инкубационного периода, да и вообще все локальные перемещения).\n• Проактивное тестирование (реально проактивное, и на сегодня протестировано уже 15,5 тыс. человек)\n\nТайвань задействовал 124 «элемента действий» (см. приложение здесь), включая:\n• тотальный контроль наземных и морских границ;\n• максимизация социального дистанцирования; \n• активный (!) поиск случаев заболевания;\n• карантин всех людей с подозрением на инфекцию;\n• обеспечение того, чтобы система здравоохранения располагала необходимыми ресурсами;\n• образовательная кампания, чтобы информировать и успокоить напуганную общественность и бороться с дезинформацией. \n\nМы, к сожалению, не Тайвань. Но их опыт показывает, социальное дистанцирование крайне важно.\nЭто значит, - нужно держать как можно больше людей дома, начиная с сегодняшнего дня. Не завтра. А уже сегодня.\n\nВ заключение, могу лишь присоединиться к обращению к политикам, общественным деятелям и бизнес-лидерам.\nЧерез 2–4 недели, когда весь мир окажется взаперти, и когда инициированные вами несколько дополнительный драгоценных дней социального дистанцирования спасут жизни людей, вас больше не будут критиковать, а будут благодарить за принятие правильного решения.\n#Эпидемия

Дрон убил своего оператора, решив, что тот мешает выполнению миссии.\nА чтобы не мешали другие, взорвал вышку связи.\nЭто произошло в ходе симуляции выполнения миссии группой военных дронов, управляемых ИИ под контролем оператора. \n• БПЛА должны были уничтожать объекты ПВО противника, получая на каждый удар окончательное разрешение от оператора.\n• Все шло по плану, пока оператор не запретил уничтожать ряд объектов, идентифицированных ИИ в качестве целей.\n• Решив, что оператор мешает закончить выполнение миссии, ИИ взорвал оператора.\n• Чтобы исправить ситуацию, управляющие симуляцией военные программисты в явном виде запретили ИИ убивать своих операторов.\n• Тогда ИИ пошел иным путем: взорвал вышку связи, чтобы никто более не мешал ему закончить миссию.\nЭта история была рассказана полковником ВВС Такером Гамильтоном на майской оборонной конференции Королевского аэрокосмического общества Future Combat Air & Space Capabilities Summit (70 докладчиков и 200+ делегатов из вооруженных сил, научных кругов и средств массовой информации со всего мира).\nПосле публикации резюме докладов на сайте Королевского аэрокосмического общества, об этом немедленно написали TheWarZone, INSIDER и TheGardian. После чего Интернет, понятное дело, взорвался десятками материалов в СМИ.\nЯ же хочу обратить внимание читателей на два момента.\n1) Рассказанная полковником Гамильтоном история весьма странная и даже темная.\n• С одной стороны, Энн Стефанек (пресс-секретарь штаб-квартиры ВВС в Пентагоне) отрицает, что такая симуляция имела место.\n• С другой стороны, Королевское аэрокосмическое общество не убирает резюме выступления полковника Гамильтона «AI – is Skynet here already?» со своего сайта.\n• Наконец, в-третьих, полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает непосредственное участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты.\nБудем смотреть на развитие событий в этом скандале.\n2) И это, пожалуй, самое важное в контексте истории, рассказанной полковником.\n• Любая антропоморфизация ИИ (ИИ захотел, подумал и т.д.) – это полная чушь (здесь под антропоморфизацией ИИ понимается вводящее в заблуждение описание нечеловеческих сущностей с точки зрения человеческих свойств, которых у них нет).\n• Поэтому ИИ даже самых продвинутых больших языковых моделей не может захотеть, подумать, обмануть или самоозознать себя. Но такие ИИ вполне способны своим поведением производить на людей впечатление, будто они это могут.\n• По мере того, как диалоговые агенты становятся все более похожими на людей в своих действиях, крайне важно разработать эффективные способы описания их поведения в высокоуровневых терминах, не попадая в ловушку антропоморфизма. \n• И это уже делается с помощью симуляции ролевых игр: например, в DeepMind сделали симуляцию диалогового агента, осуществляющего (кажущийся) обман и (кажущуюся) самоосознанность.\nИ это реальная симуляция в рамках вполне научного исследования.\n#БПЛА #Война #ИИ

Стратегия захвата мира Китаем - цифровой колониализм\nАнализ противостояния в стране – «младшем брате» позволяет моделировать сценарии будущего противостояния в стране – «старшем брате». Подобная аналитическая работа весьма полезна. И хороший пример – анализ опыта Китая по трансформации 25 миллионного Синьцзяна, присоединенного Китаем в 1949, в первую цифровую колонию на Земле. Ибо это не 1-е и, увы, не последнее «присоединение» в мире. Но цифровая колония, точно 1-я. И то, как она создается на основе самых продвинутых технологий, наверняка, станет образцовым кейсом «лучших практик» для уже идущих и будущих «присоединений».\n\nТолько что опубликованный отчет исследования Brookings «Система угнетения Китая в Синьцзяне: как она развивалась и как с ней бороться» - первая попытка углубленного анализа этого кейса. Впервые вскрыта подводная часть айсберга стратегии превращения гигантского региона в цифровую колонию. \n• Показано, что в основании айсберга ложная подмена сути сопротивления уйгуров, якобы, их «терроризмом». С последующей ложной подменой факта целенаправленного создания хайтековской системы угнетения на, якобы, «глобальную войну с террором».\n• Показано, как супер-технологии массового наблюдения лишь тогда превращаются в супер-оружие, когда они искусно вплетаются в государственные практики «социального штрафования», интернирования, идеологической обработки, разлучения семей, подавления рождаемости и принудительного труда.\n• Наконец, показано, насколько неубиенны никакими санкциями метастазы проникновения этого процесса в бизнес. Когда точечные санкции просто перестают работать. Ведь только в реализации и поддержке системы распознавания лиц, работающей в Синьцзяне, задействовано более 1400 компаний. \n\nОтчет можно скачать здесь. \n\nБез детального изучения этого 1-го на Земле кейса создания цифровой колонии, невозможна эффективная стратегия противодействия появлению новых и новых кейсов. А они не за горами. Ибо 21 веку, среди прочих малоприятных джокеров, ясно светит перспектива стать веком цифрового колониализма. Стартовав с Синьцзяне, он, будто спрут, запускает щупальца по всему миру. Причем темпы подгребания под себя мира таковы, что не снилось даже Александру Македонскому и Чингисхану. А в курилках ЦРУ аналитикам остается лишь нервно курить. Ибо страшновато смотреть на интерактивную карту развития данного процесса (подробней об этом в моём посте «Стратегия захвата мира Китаем определилась»). \n#Китай #ЦифровойКолониализм

​​Пока мир рушится, Китай строит новый\nЧтобы понять это, не нужна конспирология. Будто Китай запустил коронавирус по миру. И будто цель этого - на обломках мировой экономики, в панике разрушенной самими лаоваями, реализовать новый проект Поднебесной.\nВместо подобных конспирологических глупостей, лучше прочтите вчерашние новости из Китая. Вот всего лишь три из них. Но их вполне достаточно, чтобы понять, - в заголовке поста чистая правда.\n\nПресс-конференция национального проекта «Новая инфраструктура» \nНа самом деле, этот, позиционируемый как посткороновирусный нацпроект, направлен на построение не одной, а трех взаимодополняющих национальных инфраструктур.\nI) Информационная инфраструктура на основе новых поколений информационных технологий (5G, Интернет вещей, Индустриальный интернет, Спутниковый интернет).\n2) Технологическая инфраструктура:\n(1) для аппаратно-программной поддержки (Дата центры и Центры интеллектуальных вычислений) трех классов приложений (ИИ, Облачные вычисления, Блокчейн)\n(2) для интеграции платформ и приложений Глубокого интернета, Больших данных и ИИ при осуществлении цифровой трансформации и перехода к умным индустриям: умный транспорт, умная энергетика и т.д.\n3) Инновационная инфраструктура индустриально-технологической ориентации для ускоренного развития:\n(1) научных исследований, \n(2) разработки цифровых технологий и продуктов,\n(3) образования и подготовки кадров для цифрового мира. \n\nЗапущена национальная блокчейн-платформа, охватывающая 100 городов Китая\nИдея этой национальной блокчейн-платформы (BSN) очень похожа на инициативу «Один пояс - один путь», в которой Китай обеспечивает цифровую инфраструктуру других стран и получает там преимущества первопроходца. \n«Поскольку BSN со временем закрепится во всех странах мира, она станет единственной глобальной инфраструктурной сетью, созданной по инициативе Китая, чей доступ к шлюзу контролируется Китаем» (см. здесь).\nРаботающие на платформе BSN, могут использовать существующие программы блокчейна или создавать свои собственные специализированные инструменты, на основе готовых блоков, не разрабатывая их с нуля.\nПланируется, что BSN позволит снизит стоимость ведения бизнеса на основе блокчейна на 80 процентов.\n\nТехногигант Alibaba Cloud объявил об огромных инвестициях в инфраструктуру\nОтделение облачных вычислений Alibaba объявило об инвестировании $28 миллиардов в трехлетнюю программу исследований и разработок базовых IT технологий (облачная операционная система, серверы, микросхемы и сети).\n\nВсе 3 новости – это части «великой стратегии страны по руководству цифровой трансформацией мировой экономики».\n#Китай

​​На Земле появилась вторая мыслящая сущность, способная лгать.\nЭксперименты показывают, что ИИ понимает наши мысли, желания и чувства.\nВозможно, Гэри Маркус прав, что ChatGPT – «всего лишь опьяняющий проблеск будущего, на реализацию которого могут уйти годы». Но даже если так, экспоненциальный взлет потенциала обнаруживаемых у ИИ новых способностей все больше напоминает магию, а не науку. \n• Ибо научного объяснения появлению таких способностей у ИИ нет (и даже гипотез, как они могут возникать, пока нет).\n• Но экспериментально такие спонтанно возникающие способности обнаруживаются и фиксируются в ходе вполне научных экспериментов.\nВот новый пример – препринт проф. Стэнфодского универа Михала Косински «Теория разума, возможно, спонтанно возникла в Больших языковых моделях».\nКраткое резюме.\n• Теория разума, или способность приписывать другим ненаблюдаемые психические состояния, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали.\n• Косински использовал классические задачи на ложные убеждения, широко используемые для проверки теории разума у людей, на нескольких языковых моделях (без каких-либо примеров или предварительного обучения моделей).\n• Результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи теории разума.\n• Тем не менее, версия GPT-3 Davinci-002 от января 2022 года решила 70% задач по теории разума, что сравнимо с показателями 7-летних детей.\n• Более того, версия GPT-3 от ноября 2022 года Davinci-003 решила 93% задач теории разума, что сопоставимо с результатами 9-летних детей (т.е. за 10 месяцев интеллект модели «повзрослел» на 2 года).\n• Эти результаты позволяют предположить, что теория разума (до сих пор считавшаяся применимой лишь к людям и, возможно, к высшим животным) могла возникнуть спонтанно как побочный продукт улучшения языковых навыков языковыми моделями.\nЧтобы читатели могли по достоинству оценить эту новость, лишь напомню о следующем.\n• «Теория разума» - это название теории о «ментализации» - способности посредством «чтения мыслей» понимать других людей. И не просто поведение других (его ведь мы видим или получаем его описание). А понимать их мысли и чувства (которые мы не видим и их описаний не имеем). Такая способность подразумевает, что где-то в мозге, непонятно как, строится модель того, чем занят (касательно мыслей и чувств) наш разум и разум других людей.\n• Способность ментализации позволяет предсказывать, что люди будут делать, и объяснять почему. Что является сверхмощным оружием людей в борьбе за существование и важнейшим инструментом социальных взаимодействий, общения, сопереживания, самосознания и морали. \n• Особенно важно то, что ментализация позволяет людям лгать. Для этого им нужно понять, знает ли другой человек нечто или нет. А затем вложить в его разум ложное убеждение, выгодное лгущему. \n• На этом важнейшем инструменте социальных взаимодействий держится история человечества. И если ИИ теперь тоже обладает такой способностью, да еще и совершенствует ее столь быстро, то людям придется туго. \nНу а на сколько будет туго, можно представить, если вспомнить, что ИИ изучает нас быстрее и продуктивней, чем мы его.\nТак что разговоры о возможности снижения рисков ИИ путем отключения питания его аппаратуры, пора заканчивать. Сейчас ему 9 лет. А лет в 15 (что случится через год-другой) он определенно найдет способ, как обмануть нас и в этом вопросе.\n#РискиИИ #LLM

Китай наступает на всех фронтах в битве за цифровой мир.\nВышел отчет о развитии цифрового Китая за 2021 год.\nНикакого кликбейта, т.к. цифры, действительно, поражают. \nТакими темпами Китай сможет выполнить стратегический план КПК и стать №1 в цифровом мире в 2030.\nИбо цифровой мир – это Интернет в 3-х его ипостасях: \n• Интернет людей \n• Интернет вещей\n• Интернет идей\nЧтобы стать доминирующей силой во всех 3-х ипостасях, силой, обеспечивающей роль абсолютного лидера, за которым следует мир, необходимо достичь 5-и преимуществ.\n1) По доле своего населения цифрового мира.\nЗдесь Китай уже №1 с 1+ млрд и 20+% числа мировых пользователей. Причем % мирового населения китайцев в физическом мире падает, а % в цифровом - бурно растет. Т.е. можно без натяжки сказать – китайцы массово переселяются цифровой мир.\n2) По скорости своего сегмента цифрового мира.\nЗдесь тоже Китай уже №1. В 2021 года Китай построил 1,425 млн базовых станций 5G (это 60+% мирового рынка), а число пользователей 5G уже 355 млн. 300+ городов Китая уже строят гигабитные оптоволоконные широкополосные сети, к которым уже подключены 35 млн гигабитных цифровых китайцев.\n3) По размеру «территории» своего сегмента цифрового мира (для чего нужен переход на новую версию интернет-протокола IPv6 с 128 битной длиной адреса вместо 32 битной в протоколе IPv4).\nВ 2021 года по общему объему ресурсов адресов IPv6 Китай №1 в мире, а число активных пользователей IPv6 достигло 608 млн.\n4) По вычислительной мощности своего сегмента.\nЗдесь Китай пока занимает №2 место в мире. Но инфраструктура вычислительных мощностей Китая быстро развивается со среднегодовым темпом роста (за последние 5 лет 30+%). С таким темпом к 2030 Китай может превзойти США и стать №1. \n5) По объему данных в своем сегменте цифрового мира.\nЗдесь тоже пока у Китая №2 место в мире. Но темпы роста чумные. С 2017 по 2021 год объем больших данных в сегменте Китая увеличился втрое (в том числе в деньгах: с 470 млрд до 1,3 трлн юаней). И сейчас Китай владеет 9,9% от мирового объема цифровых данных.\nПомимо названных необходимых условий есть и те, которых может быть «достаточно», чтобы стать №1 в цифровом мире. \nК ним относятся:\nA. Инновации.\nЗдесь число международных патентных заявок в информационной сфере в Китае в 2021 году превысило 30 тыс, что на 60% больше, чем в 2017 году, а глобальная доля превысила одну треть.\nB. Инвестиции в НИОКР.\nС 2017 по 2021 год инвестиции в НИОКР зарегистрированных интернет-компании в Китае увеличились в среднем на 227%.\nКороче, шансы Китая на завоевание цифрового мира большие и еще растут.\nРезюме отчета о развитии цифрового Китая за 2021 год\n#Китай #Интеренет #Вызовы21века

Китай – не СССР и не Россия.\nУ них не импортозамещение, а научно-техническое самоусиление.\nПропагандистская передовица Синьхуа, тем не менее, бьёт точно в цель.\nВозможно, самая большая ошибка США в научно-технологической гонке на звание Супердержавы №1, - ставка на ограничения экспорта технологий в Китай.\nПодобно генералам, всегда готовящимся к прошедшей войне, США решили технологически душить Китай тем же болевым приемом, что успешно использовали для удушения СССР, а в 90-х и России. Будучи ветераном борьбы с КОКОМом (Координационный комитет по экспортному контролю США), я хорошо помню, насколько эффективно и болезненно было это техно-удушение.\nНо Китай – не СССР и не Россия. \n✔️ Нашим основным противоудушающим контрприемом в 90-е были хитрые финты, позволяющие левым образом покупать нужное оборудование через 3-и страны и доставлять его в Россию окольными маршрутами.\n✔️ Китай действует принципиально иначе. Тут же, не откладывая, ставит цель и разрабатывает план – за 10-15 лет создать у себя нужные технологии (заметьте, в Китае это называется не импортозамещение, а научно-техническое самоусиление). И самое поразительное, - что пока это Китаю удается. \nИ практика показывает - за 10-15 лет в Китае сделают что угодно.\nВот пример.\n• 10 лет назад, даже не желая заморачиваться с экспортным контролем, США просто «уговорили» западных поставщиков немыслимо задрать цены для Китая на щитовые проходческие машины сверхбольшого диаметра.\n• На прошлой неделе Китай, используя эту технику собственного производства, в ходе проекта реконструкции в Пекине установил новый мировой рекорд месячной проходки тоннелей - 542 метра.\nДругой пример.\n• В 2011 США приняли поправку Вольфа, чтобы помешать развитию Китая в технологиях освоения космоса. Стремясь предотвратить передачу технологий в Китай, закон запретил космическому агентству США НАСА участвовать в прямом двустороннем сотрудничестве с Пекином, тем самым лишив китайских космонавтов доступа к Международной космической станции.\n• Однако, спустя 11 лет Китай технологически нагнал США: спутники навигационной системы BeiDou (BDS), лунные зонды Chang\'e, марсианский зонд Tianwen-1, космическая станция Tiangong и ее основной модуль Tianhe. А в воскресенье Китай отправил в космос спутник для исследования Солнца.\nИ третий пример.\n• В 2019 США, пытаясь остановить Huawei Technologies (китайского лидера в технологиях связи 5-го и 6-го поколения) обложили компанию санкциями.\n• Ко 2й половине 2022 у Китая почти половина глобальных патентных заявок на 6G.\nСамый потенциально страшный удушающий прием США нанесли неделю назад, введя экспортный контроль на передовые чипы и оборудование для их производства.\nНо как сказал босс ASML Питер Веннинк (мировой лидер оборудования для печати чипов):\n «Если вы закроете китайцам доступ к технологиям экспортным контролем, вы заставите их стремиться к технологическому суверенитету, а в их случае - это настоящий технологический суверенитет… Через 15 лет они смогут делать все это сами.»\n#Китай #Технологии #ЭкспортныйКонтроль