mastodontech.de ist einer von vielen unabhängigen Mastodon-Servern, mit dem du dich im Fediverse beteiligen kannst.
Offen für alle (über 16) und bereitgestellt von Markus'Blog

Serverstatistik:

1,5 Tsd.
aktive Profile

#openrouter

0 Beiträge0 Beteiligte0 Beiträge heute

I am an #AI-enhanced coding believer now since I've started working at the new place (3-4 months ago). Using #openrouter is a corporate practice there and it's kinda obligatory.

Now I want to enhance my #guix setup with all mcp's possible, upgrade a video card in my desktop and start local #llamacpp server and share it with some friends.

vibes.diy/ is an #OpenSource, beginner-friendly vibe coding web app generation tool.
Announcement: fireproof.storage/posts/introd
It's basically generating a single-page #React app backed by Fireproof, a #LocalFirst database w/synchronization github.com/fireproof-storage/f and utilizing #OpenRouter for the #LLM #AI inference.
Source code: github.com/VibesDIY/vibes.diy
Interview w/developer changelog.com/podcast/647
#AIEd #EdTech

vibes.diyVibes DIYVibe coding made easy
Fortgeführter Thread

Best of all: everything is free, thanks to #openrouter 😍
I am so sick of all these none-free bullshit websites or chrome-plugins that don't work. Even the custom GPTs in #chatgpt are bullshit. The only YouTube summarizer that works is #gemini, btw.... anyway....
Finally, I have my own ☺️

Facts:

1. #Github #Copilot for #Xcode supports setting a proxy.
2. Proxyman creates a proxy that can intercept and "massage" calls.
3. (Free) Copilot for Xcode only has a handful of models.
4. I happily pay for OpenRouter already, don't want to pay for Copilot, too.
5. I should really go to bed now.

Hypothesis:

1. It might be possible to rewrite Copilot calls in Proxyman so they go to #OpenRouter instead.

…TOMORROW

Сегодня маленький приятный восторг - и опять с нейросетями.

Коллега последние два с чем-то дня пердолился с одной внешней системой, которая хотела очень специфическую подпись запросов.

У системы есть референсный микросервис на Python и невалидные примеры кода на C#.

Он пытался спрашивать ChatGPT, но результат получался неправильный. Кстати, такой же как в дотнете.

Я решил попробовать помочь. Предложил потыкать Claude Sonnet. Но у него нет туда доступа.

Тогда пошёл копаться сам. Нашёл неконсистентности между тем как делается подпись в Python и Go.

Рабочая гипотеза была сформирована.

Пошёл в ChatGPT, попросил написать с учётом своих находок и получил диалог вида:

Я: Напищи мне порт на Go
GPT: Вот
Я: Но тут совсем не то, смотри в чем разница
GPT: Тогда вот
Я: Но это не работает. Смотри какая проблема и ошибка.
GPT: Ну все правильно, ты передашь не то в метод, вот как надо
GPT: *По сути откатывает код назад*
Я: Ебать спасибо нахуй

Меня это тяни-толкание заёбывает, я иду и покупаю кредиты на OpenRouter за крипту.

Выписываю ключ API и подключаю его к своему @openwebui чтобы кроме локальных моделей можно было подключить облачную тяжелую артиллерию когда надо.

Иду в Claude Sonnet.

Я: надо портировать на Go
Claude: Вот
Claude: *пишет код со всеми теми нюансами, которые нашёл и я когда смотрел разницу в биндингах к криптобиблиотекам*
Я: Неплохо, но вот в этом месте стандартной либы Go происходит ошибка.
Claude: И правда. Вот что надо исправить.

И выдаёт полностью рабочий код абсолютно идентичный референсному микросервису, который выдаёт правильные подписи за счёт правильных костылей имитирующих то, что творится в питоне.

Примерно за 5 центов в сумме.

Короче выводы сегодняшнего дня:

- Если вам не помогает GPT с кодом - обязательно сходите к Claude
- Я буду добиваться корпоративного OpenWebUI с доступом к разным ассистентам в компании

#dev#log#work

Divi dažādi #AI plugini ar #OpenRouter API: #Cline vs #GitHub #Copilot (+Openrouter API).

Cline (oranžais) uzrakstīja dažas rindas, sasniedza kut kādus pieprasījuma limitus un ... uzrakstīja nederīgu kodu.
Copilot joprojām rakstu... Visticamāk vajadzētu izmantot vienu un to pašu modeli, bet vēlos testēt reālu pielietojumu, nevis laboratorijas tīrībā.

Thing I want to exist but don't want to build: a #mud that does pretty much the same thing as #SillyTavern or #agnaistic, intended for selfhosting. A MUD would be an excellent interface for #AI assisted #roleplay. With #Evennia and #OpenRouter, this honestly wouldn't be that hard. I just hate #Python and don't wanna.

The way to do it would be:
1. Set up a
#docker #Evennia environment, to make distribution easy.
2. Add an attribute on Evennia accounts to hold an openrouter API key, and a userflow to get a users key via OAuth:
openrouter.ai/docs/use-cases/oauth-pkce
3. Use the
#OpenAI Python API and hook it up to NPC's to let them chat, generating responses with the user's API key. Figure out function calling and hook it into the various creation functions of Evennia for extra fun. Probably need to store attributes for what models and parameters to use on each NPC, with global defaults probably from the user's account.
4. Dump the room name and desc, the player desc, and chat history into the AI context.
5. Something something MSP/MXP and ElevenLabs for sound effects and music.
6. Something Something MXP for images.
7. Dockerize the thing and upload it to let users run there own muds for AI roleplay for themselves and their friends.

If I either liked Python or was unemployed, I would do this. If only AI coding was good enough to just make the thing based on my design skeleton above.

OpenRouter DocumentationOAuth PKCE - Secure User AuthenticationImplement secure user authentication with OpenRouter using OAuth PKCE. Complete guide to setting up and managing OAuth authentication flows.

A quality of life improvement I have been enjoying since #AI got better at writing #Code : Making a number of nifty #userscript to be used with the #violentmonkey extension to improve the experience on certain websites.

These scripts can themselves call a free #llm (via #openrouter).

Fascinating dynamic this is though: I as an expert, am willing to trust AI that I control, rather than other expert humans because of the harms they can cause because of #anonymity.