У первого пациента c чипом Neuralink возникли проблемы
Три месяца назад компания Neuralink впервые в истории вживила чип 29-летнему пациенту по имени Ноланд Арбо. Спустя ровно сто дней стартап Илона Маска сообщил, что часть мозгового импланта вышла из строя. Из-за этого компании пришлось срочно обновлять программное обеспечение.
Анонсирована новая часть хоррора Five Nights at Freddy's
Жуткий хоррор про аниматроников Five Nights at Freddy's уже давно успел стать культовым, а франшиза обзавелась множеством спин-оффов и даже полноценной экранизацией. Теперь поклонников роботов ждёт новое приключение.
Энтузиасты запустили неофициальный сервер ICQ. Как подключиться?
Практически сразу же после «похорон» ICQ разработчики проекта NINA объявили о запуске регистрации учётных записей мессенджера на собственном неофициальном сервере. С его помощью любой желающий может «реанимировать» свой аккаунт — правда, с некоторыми оговорками.
Наушники с огромными резонаторами Ol' Thumpy лучше всего передают бас
Ol' Thumpy — это новая модель наушников от сотрудника Pud's Small Batch Headphones. Выполненная в максимально необычном дизайне новинка предоставляет слушателям возможность идеально прочувствовать низкие частоты. Всё благодаря гигантским резонаторам.
Умный дом «Яндекс» без интернета: как работает Matter over Wi-Fi?
В апреле компания «Яндекс» представила свои первые устройства с поддержкой протокола Matter over Wi-Fi: умную светодиодную ленту и умную розетку, которые способны работать без подключения к интернету. Мы проверили возможности новинок в разных режимах и сценариях.
Нет YouTube — нет проблем. «Яндекс» запустил функцию поиска «быстрых» роликов
Поскольку проблемы с доступом к YouTube в России никуда не исчезли, отечественные компании начали подстраиваться под новые реалии. Например, «Яндекс» представил функцию, позволяющую убрать из поисковой выдачи видео с этой площадки.
Пользователи из РФ не могут создать новые аккаунты Google. В чём причина?
Telegram-канал «Эксплойт» сообщил, что Google в последнее время не позволяет завершить регистрацию аккаунта, если для его подтверждения используется российский телефонный номер. Издание «Газета.ру» выяснило, с чем это может быть связано, и отыскало работающий способ регистрации.
Представлена Logitech G309 — беспроводная мышь с «бесконечной» автономностью
Ассортимент периферийных устройств компании Logitech пополнился новой беспроводной мышью G309. Новинка поддерживает подзарядку от ковриков PowerPlay, Lightspeed или работает от AA-батареек. Обойдётся устройство менее чем в $100.
Потерянный Android-смартфон теперь можно найти даже без интернета
Компания Google представила свой аналог сервиса Apple Find My для поиска потерянных смартфонов. Он работает без подключения к интернету, а некоторые гаджеты серии Pixel будут подавать «сигнал SOS» даже при выключенном питании. Представители компании рассказали главные подробности о новой технологии.
Windows 10 получит одну из раздражающих особенностей Windows 11
Несмотря на скорую «отставку» Windows 10, компания Microsoft продолжает добавлять в ОС новые функции — правда, их выбор иногда вызывает вопросы. Один из тестировщиков недавно обнаружил в бета-версии «десятки» очередное нововведение. Как оказалось, компания решила скопировать одно из сомнительных свойств меню «Пуск» более новой Windows 11.
Google прокомментировала замедление YouTube в России
В компании Google ответили на запрос журналистов издания «Коммерсантъ» относительно перебоев в работе видеохостинга YouTube на территории России.
Google добавила в Android защиту от пиратства
Специалисты портала Android Authority обнаружили, что Google внедрила в операционную систему Android механизм проверки легальности приложений и игр. С его помощью разработчики смогут узнать, была ли программа загружена на устройство в обход магазина приложений Google Play.
В DOOM нашли чит, спрятанный в коде 27 лет назад
Даже спустя более четверти века DOOM продолжает удивлять — причём не только количеством техники, на которой её запустили. Спустя около 27 лет датамайнеру удалось найти новый чит-код, спрятанный в игре.
Авиалайнеры со смешанным крылом открывают новый формат перелётов
Британская авиакомпания EasyJet объявила о сотрудничестве со стартапом JetZero для создания необычного самолёта на водороде со смешанным крылом. Такая конструкция позволит сократить расход топлива вдвое, а также добиться нулевого выброса углерода во время дальних авиаперелётов.
Дизайн Samsung Galaxy S25 показали со всех сторон [ВИДЕО]
Вслед за моделью Galaxy S25 Ultra инсайдер OnLeaks опубликовал 3D-визуализацию и серию качественных рендеров базовой версии будущего флагмана Samsung. Гаджет показали со всех сторон в мельчайших подробностях.
Блогеры доказали «бесполезность» видеокарт с 8 ГБ памяти на практике [ВИДЕО]
В рамках давнего интернет-спора о необходимом геймерам объёме видеопамяти авторы YouTube канала Hardware Unboxed провели любопытный эксперимент. Они сравнили в играх версии GeForce RTX 4060 Ti с 8 и 16 ГБ памяти, но сделали это не на эталонной платформе для обзоров, а сымитировали апгрейд видеокарты на старых материнских платах с предыдущими версиями интерфейса PCIe. Как оказалось, это именно тот случай, когда «размер» VRAM имеет значение.
LineageOS 21 даст вторую жизнь некоторым устаревшим смартфонам
Кастомная прошивка LineageOS 21 вышла для нескольких новых, но устаревших смартфонов. В список попали гаджеты от LG, realme, Xiaomi и Motorola, и в некоторых случаях устройства уже давно не видели новых версий ОС.
Microsoft решила снова возродить Skype
Microsoft внезапно вспомнила, что у неё есть собственный мессенджер, который в прошлом пользовался огромной популярностью. Речь, конечно же, о «лучшем файлообменнике» — Skype. Редмондская корпорация выпустила обновление для Windows 11, которое убрало из приложения назойливую рекламу и устранило ряд ошибок.
Всё очень плохо. Продажи Xbox Series свернут в ряде стран Европы — их не покупают
Дела в этом поколении консольного сражения у Microsoft идут из рук вон плохо. Недавно мы рассказывали, что Xbox Series не догнала по продажам даже Xbox One, а теперь Том Уоррен выступил с тревожной новостью.
Обзор vivo X100 Ultra: крутой камерофон глазами зарубежных СМИ
Вышедший в конце прошлого года vivo X100 Pro собрал дифирамбы в адрес своей камеры, поэтому от Ultra ожидания были очень высокими. Удалось ли производителю переплюнуть себя в плане фотосъёмки? Мы изучили зарубежные обзоры и готовы рассказать, что представляет собой vivo X100 Ultra.
Вышел Microsoft Office LTSC 2024 без подписок и привязки к сети
Компания Microsoft представила новую версию знаменитого пакета Office. Как и его предшественники, набор приложений не требует оформления подписки и может полноценно работать без подключения компьютера к сети, но ценой такой «свободы» стало отсутствие современных ИИ-функций.
Илон Маск представил новую ИИ-модель Grok 2
Компания Илона Маска xAI представила Grok 2 — новейшую ИИ-модель, которая по вычислительной мощности значительно превосходит GPT 4 Turbo и Amazon Claude. Платформа включает раннюю предварительную версию Grok 2 и Grok 2-mini, обе из них будут доступны пользователям социальной сети X.
Опрос: готовы ли вы отказаться от YouTube?
На прошлой неделе появилась информация об ухудшении работы YouTube на территории РФ, якобы связанном с техническими проблемами на стороне Google. Некоторые уже бьют панику, готовясь к полной блокировке видеосервиса, ведь слухи об этом ходят уже не один год. В то же время в России уже есть несколько аналогов популярного видеохостинга, а недавно представили почти полный клон под названием «Платформа». Кто-то уже перешёл на эти сервисы, тогда как другие не воспринимают их всерьёз. Проголосуйте и расскажите в комментариях, готовы ли вы отказаться от YouTube?
«Режим бога» Windows получил первое обновление. Что изменилось?
Неофициальный скрипт Windows God Mode, открывающий простой доступ ко всем настройкам ОС, получил первый апдейт с момента релиза. Он стал гораздо эффективнее и теперь работает почти без ошибок. В «заметках к патчу» разработчик рассказал о ключевых улучшениях полезного инструмента, получившего приставку Super в названии.
Toyota Prius установил мировой рекорд по эффективному расходу топлива
Более 20 лет назад Prius позиционировался как первый серийный гибридный автомобиль, способный сочетать электродвигатель с классическим ДВС для экономии топлива. И эта технология оправдала себя. Недавно авто побило мировой рекорд по самому эффективному расходу топлива — 150 км на галлон (3,79 литра).
В RuStore теперь можно пополнять кошельки Steam и Battle.net
Разработчики RuStore рассказали об очередном нововведении отечественного магазина приложений. Теперь в нём появился новый раздел «Киоск» для пополнения баланса цифровых торговых площадок и кошельков для внутриигровых покупок в отдельно взятых играх.
Tele2 — всё. Компания сменит логотип и название
До конца 2024 года российский мобильный оператор Tele2 намерен провести ребрендинг — уже разработан новый бренд, включая название и логотип, которые при этом сохранят преемственность.
Детство разрушено. Дуть в картриджи «Денди» было бесполезно и даже вредно
Для поколения геймеров, которые застали старые приставки вроде «Денди» или даже официальные устройства Nintendo, более чем знакомы картриджи с играми и проблемы, которые с ними возникали. Часто решить проблемы с подключением можно было простым обдуванием картриджа, но работало ли это на самом деле?
В Японии начали борьбу с водителями электрочемоданов
В последнее время в Азии набирают популярность моторизированные чемоданы — компактный электротранспорт, служащий альтернативой электровелосипедам. Правда, необычные транспортные средства вызывают вопросы у японских властей, требующих права на использование чудо-гаджета.
Названы «худшие видеокарты всех времён» по версии СМИ
Портал XDA-Developers составил любопытный «антирейтинг» потребительских видеокарт, в который вошли восемь моделей, признанных изданием худшими за всю историю. При этом «почётное» первое место в получившемся списке заняла сравнительно недавняя модель производства AMD.
Очень старым iPad нашли полезное применение
Выпущенный в 2012 году iPad третьего поколения, также именуемый The New iPad или iPad Retina, уже давно лишился поддержки и не способен запускать современные приложения и игры. И всё же китайские умельцы сумели найти ему полезное применение.
Google Play получил долгожданную функцию, которая давно есть в App Store
В свежей сборке клиента Google Play для Android (40.6.31) появилось полезное нововведение. Оно убирает печально известный лимит на скачивание не более одного приложения за раз из фирменного магазина — правда, пока лишь частично.
Honor Magic V3 стал ещё тоньше и получил более ёмкий аккумулятор
Как и было запланировано, в Китае состоялась презентация нового складного смартфона Honor Magic V3. Он отнял у своего предшественника звание самого тонкого устройства в своём классе. При этом аппарат стал мощнее, получил более качественные камеры и даже аккумулятор увеличенной ёмкости.
TikTok больше не топ. В России появился новый лидер
Согласно отчёту исследовательской фирмы Mediascope, TikTok утратил звание самого популярного сервиса вертикальных видео среди российских пользователей. В июне этого года первенство перешло к «VK Клипам», запущенным четырьмя годами ранее.
СМИ: TCL сворачивает производство своих телевизоров в России
По информации издания «Коммерсантъ», китайская TCL приняла решение прекратить производство своих телевизоров в России из-за угрозы наложения санкций со стороны США и ЕС. Компания уже перестала поставлять компоненты российским контрактным производителям «Квант» и STI Group.
Я скармливал гпт4о документацию + примеры + посты с форумов и он начал нормально помогать. Да, не идеально, но намного лучше
(отредактирован)
И даже помог написать это комментарий?
Нет, прошлый комментарий был написан человеком.
Лучший gpt это тот, который ты пользуешься. На данный момент это Яндекс GPT. Я всегда удивляюсь, как Алиса поумнела и может поддержать разговор и даже запомнить в разговоре, что мою кошку зовут Миа. Ну не чудо ли? Но через 5 минут после разговора Алиса забывает запомненное в разговоре.
О спасибо тебе Александр, не представляю как я жил до этого. Пойду сына назву Яндексом
Двуликий Яндекс ))
Стоит задать "неправильный" и непрямой вопрос и товарищ Aлиca будет до последнего игнорировать факты. А когда задашь "неправильный" вопрос напрямую Aлиca уйдёт в игнор или скажет, что хочет сменить тему.
НО!!! Ты можешь обхитрить товарища Aлиcy и поиграться словами и тогда получишь ответ на "неправильный" вопрос. Смех в том что сразу после "неправильного" ответа на такой "неправильный" вопрос - ответ удаляется, либо удаляется вообще вся история.
На домашнем системнике (со 128гб оперативы) даже 70B будет минут отвечать, не говоря уже о 405B. 405B дома можно только с SSD позапускать, но даже на топовых SSD скорость будет по минуте на пару символов.
Спасибо… Так это что ж там на серверах то стоит такое? И почему нам это доступно за копейки, если нагрузка настолько сумасшедшая?
Ну железо стоит много, но за счет особенностей параллельной работы LLM большой объем запросов можно обрабатывать довольно эффективно, плюс многие поставщики демпингуют, чтобы собрать пользовательскую базу, рассчитывая, что в будущем железо будет дешевле. Ну и каждый отдельный пользователь далеко не все время пользуется моделью, так что цену получается оптимизировать.
Один сервак для полноценного запуска 405B версии состоит из 16 карт Nvidia H100, у каждой по 80ГБ видеопамяти. Стоит такой примерно 600k$. Если обрабатывать на нем только один запрос, то он генерирует примерно 10-25 символов в секунду, но если эффективно планировать параллельные запросы, то можно генерировать где-то в 30 раз больше.
А сколько интересно в аренду такой будет стоить сервер?
На 16 карт найти не могу, если использовать сжатую в fp8 версию, то можно на 8 картах запустить. Сервак на 8 H100 стоит около 30$ в час в различных облаках. Скорее всего, можно распределенную генерацию запустить на двух таких, тогда можно и bf16 версию запустить.
Это кто даёт за копейки 405B?
За копейки версия 8B, которая хуже ChatGPT3.5, по ощущениям. По крайней мере, по кодингу выдает такую фантастику, что лучше даже DeepSeek Coder2 юзать.
(отредактирован)
Так с 8B вообще можно бесплатно взаимодействовать через Hugging Chat. У Hugging Face даже API есть бесплатные (скорее всего, только для личных нужд/экспериментов). Но вот с этим уже нюанс: по крайней мере через Shortcuts на iOS мне удалось получить только продолжение текста, а не чат. Хоть это и можно превратить в чат, если фантазию включить. И всё же я склоняюсь к тому, что вообще все предложения сильно занижены по цене. Вопрос не в том, как это для клиентов, а в том, как это для владельцев этих самых моделей. Часто слышу, что такие компании сейчас работают в убыток. На что они рассчитывают не берусь рассуждать.
Короче, я осмотрелся, Llama-3.1-405B-T некоторые сервисы дают бесплатно. Примерно, восемь сообщений в день. И GPT-4o примерно так же.
Llama-3-8B-T, ~200 сообщений в день. Claude-3-Haiku, ~100 сообщений в день.
Предложения, понятно что по цене занижены. На что рассчитывают, это понятно. Всё как в рыбалке, "подкармливаешь рыбу, а потом приходишь с удочкой". Дают попробовать, а потом когда дорастёшь до чего-то серьезного (а где серьезно, то там водятся и деньги), то платишь за подписку.
Стандартная техника: "подкормка". =)
"Гайки закручивать" могут начать потом, когда соберут аудиторию. Говорят, некоторые уже начали.
(отредактирован)
А 8B , получится с 16 gb оперы?
Стандартная будет свапаться на диск и тормозить. Если использовать сжатую в два раза версию, то можно. 8B модель очень сильно обучена для своего размера, поэтому она страдает от сжатия сильнее чем 70B и 405B, но попробовать все равно может быть интересно.
Заканчиваю себе 8b , посмотрю ее
Модель 8b_q8 запускал на m1 с 16гб оперативы через LM Studio. Скорость ответа 7 ток/сек.
Спасибо, я только пару дней как разбираюсь в этом, стало очень интересно запустить чат бот локально на своем ноуте. Понял что все они англоязычные и плохо понимают русский.
На 3.1 понимание русского языка — отличное.
Кстати, модель хорошая, по корпусам для ПК мня нормально ответила. Странно, что ей больше 16 гигов оперы не надо, либо я не нашёл, где ей больше можно задать. Ryzen 5700x + 3070 = 14.68 / ток. с
Ладно, уже заканчиваю себе 8b
Какой ответ хочешь? 42?
Ну речь то шла про жирную модель из новости. А генераторы шизофазии я и на своём iPhone XR гоняю локально без проблем, если не считать проблемой их полную бесполезность. )
Чем лучше,я не заметил(а вот нудный это да),говорят Грок лучше,но пока не получается проверить твиттер в блоке + недаром :((
Если бы психологи, негры и лгбт за слово rear drive gay не обидились на чатГПТ,то цензуры не было бы 😁
Ошибка, сетям не 2 года. Их 50 лет разрабатывают. Это 2 года коммерческого релиза.
Вас не смущает что GPT именно 4? Их много лет разрабатывали и вот выпустили 4 версию. Какие 2 года.