A* Consulting

Forrige uke ble jeg invitert av Start BI Trondheim til å holde et innlegg om KI og dens relevans i skolehverdagen. I underkant av 100 BI-studenter møtte opp, og det var kult å få snakke om noe jeg brenner for🤓 Jeg tok for meg ulike temaer som bygget en forståelse av språkmodellers muligheter og begrensninger: 🔹 Hva er en språkmodell 🔹 Hvorfor trenger den verktøy 🔹 "Chain of Thought"-prinsippet 🔹 "Multimodalitet" - Håndtere tekst, bilder og lyd. 🔹 Hva skjer om integrerer språkmodeller i systemer 🔹 NotebookLM - eksempel på en slik tjeneste 🔹 Den mørke siden ♻️ 🕵 🧟 Takk for invitasjonen, Sondre Solbakk Østli, og resten av teamet i Start BI Trondheim og Fagutvalget! Håper det var nyttig og at eksamenperioden blir litt bedre med KI i ryggen 🤘 (Med sliden på det første bildet viser jeg hvordan dialekten min som bergenser har blitt "finetunet" etter å ha bodd i Trondheim noen år – litt på samme måte som man kan "finetune" en språkmodell 🛠️.)

Afras tok med seg faddergruppen og reiste til Oslo på Equinor Pwn Team (EPT) sin CTF konkurranse 🚩 Når Afras ikke jobber deltid hos oss som AI-konsulent, er han på cybersikkerhets-hackaton og gjør det ganske så bra. Sammen med Mina Al-Dolaimi og Andreas Jonsterhaug tok de med seg "Faddergruppe 16" til Oslo og konkurrerte i student-klassen. Her gjorde 1. og 2. klassingene fra, Kybernetikk og Elsys, en solid prestasjon og endte på topp 10 💪 Konkurransen går ut på å finne så mange "flagg" gjemt i ulike cybersikkerhetsutfordringer som mulig. Dette kan for eksempel være sårbarheter i nettverk, skjulte meldinger i kryptert tekst eller oppgaver som krever kreative tilnærminger for å knekke kode og sikre systemer 🤓

🤖 Ukens A* Agent: Tilpasset Nyhetsoppsummering 📰 Er du lei av å bli distrahert av "spennende" VG+ saker eller clickbait-nyheter om dårlig økonomi fra E24? Denne ukens agent utforsker et konsept som lar deg definere hva du ønsker å lese om, og lar agenten jobbe for deg. Slik får du den informasjonen du ønsker, på den måten du vil, fra de kildene du selv velger. 🧠✨ Konseptet demonstrerer hvordan agenten kan gi oppsummeringer fra E24, VG og Adressa uten at du må navigere gjennom sider med irrelevant innhold. Agenten filtrerer ut støyen og gir en konsis oversikt over nyhetene som betyr noe for deg. 🎯

Forrige uke arrangerte Linjeforeningen TIHLDE Gründerdagen - og vi var invitert til å fortelle om vår reise og våre erfaringer 🌟 Det var gøy å få presentere og reflektere over vår reise siden oppstart i mars – fra idé til virkelighet. Å se tilbake på utfordringene og suksessene har gitt oss ny motivasjon til å fortsette utviklingen, og vi håper våre erfaringer kan inspirere flere til å våge å satse 🦾 En stor takk til TIHLDE for invitasjonen og til alle studenter som stilte opp 🙋♂️ 🙋♀️

🤖 Ukens A* Agent: Langtidsminne 💡 Visste du at en chatbot kan lære å kjenne deg bedre over tid? Med en Long Term Memory-agent kan modellen lagre og hente informasjon den anser som viktig, noe som gir en mer personlig og kontekstsensitiv opplevelse. 🧠 Ved å bruke LangChain sitt LangGraph-bibliotek har vi utviklet en løsning hvor vi demonstrerer dette konseptet. 1. 𝘈𝘨𝘦𝘯𝘵𝘦𝘯 𝘷𝘦𝘭𝘨𝘦𝘳 𝘴𝘦𝘭𝘷 𝘩𝘷𝘢 𝘴𝘰𝘮 𝘦𝘳 𝘷𝘦𝘳𝘥𝘵 å "𝘩𝘶𝘴𝘬𝘦"🧠 2. 𝘈𝘨𝘦𝘯𝘵𝘦𝘯 𝘣𝘳𝘶𝘬𝘦𝘳 𝘮𝘪𝘯𝘯𝘦𝘵 𝘵𝘪𝘭 å 𝘨𝘪 𝘴𝘮𝘢𝘳𝘵𝘦𝘳𝘦 𝘰𝘨 𝘮𝘦𝘳 𝘱𝘦𝘳𝘴𝘰𝘯𝘭𝘪𝘨𝘦 𝘴𝘷𝘢𝘳 🎯 Dette betyr at den kan lære av tidligere interaksjoner og tilpasse seg dine behov og preferanser. Ved å lagre relevant informasjon blir agenten smartere jo mer du bruker den, noe som gjør at den forstår konteksten bedre og gir mer presise, skreddersydde svar. Dette er spesielt nyttig i systemer hvor personlig tilpasning til bruker er viktig. 🤖✨ Etter ti, hundre eller tusen samtaler er det lite en KI-agent IKKE vet om deg. Selv om dette gir en bedre og mer personlig opplevelse, kan det også føles litt skremmende. Det er derfor noe å ha i bakhodet neste gang du bruker ChatGPT, Notebook LM eller hvilken som helst annen. 🤔 Er dette mest nyttig eller skummelt? Hva er dine tanker? 👀

🤖 Ukens A* Agent: Chain of Thought ⛓️ Visste du at OpenAIs nye GPT-o1 gir chatboten evnen til å reflektere før den gir et svar? Denne evnen, kjent som Chain of Thought, lar modellen håndtere komplekse oppgaver ved å bryte dem ned og tenke gjennom dem steg for steg.⛓️🧠 Ved å bruke LangChain sitt LangGraph-bibliotek har vi utviklet en løsning for å visualisere og demonstrere hvor kraftig dette konseptet er. Systemet bruker utelukkende GPT-4o modellen, som brukes både til refleksjon og produksjon av tekst. For å teste den ga vi modellen følgende utfordring: 𝑯𝒆𝒊, 𝒅𝒖 𝒔𝒌𝒂𝒍 𝒏å 𝒔𝒌𝒓𝒊𝒗𝒆 𝒆𝒕 𝒅𝒊𝒌𝒕 𝒐𝒎 𝑵𝑻𝑵𝑼 𝒎𝒆𝒅 𝒇ø𝒍𝒈𝒆𝒏𝒅𝒆 𝒓𝒆𝒔𝒕𝒓𝒊𝒌𝒔𝒋𝒐𝒏𝒆𝒓: 1. 𝘋𝘪𝘬𝘵𝘦𝘵 𝘴𝘬𝘢𝘭 𝘷æ𝘳𝘦 5 𝘭𝘪𝘯𝘫𝘦𝘳 𝘭𝘢𝘯𝘨𝘵. 2. 𝘏𝘷𝘦𝘳 𝘭𝘪𝘯𝘫𝘦 𝘴𝘬𝘢𝘭 𝘱𝘳𝘰𝘨𝘳𝘦𝘴𝘴𝘪𝘷𝘵 𝘷æ𝘳𝘦 𝘭𝘦𝘯𝘨𝘳𝘦 𝘦𝘯𝘯 𝘥𝘦𝘯 𝘧𝘰𝘳𝘳𝘪𝘨𝘦. 3. 𝘒𝘶𝘯 𝘷𝘰𝘬𝘢𝘭𝘦𝘯𝘦 "𝘪," "𝘦," 𝘰𝘨 "𝘢" 𝘬𝘢𝘯 𝘣𝘳𝘶𝘬𝘦𝘴. 4. 𝘋𝘪𝘬𝘵𝘦𝘵 𝘮å 𝘪𝘯𝘬𝘭𝘶𝘥𝘦𝘳𝘦 𝘕𝘛𝘕𝘜-𝘳𝘰𝘮𝘮𝘦𝘯𝘦 "𝘍𝘪𝘴𝘬𝘦𝘭𝘢𝘣𝘣𝘦𝘯," "𝘒𝘢𝘵𝘵𝘦𝘭𝘢𝘣𝘣𝘦𝘯" 𝘰𝘨 "𝘌𝘓5." 5. 𝘈𝘭𝘭𝘦 𝘧𝘦𝘮 𝘭𝘪𝘯𝘫𝘦𝘯𝘦 𝘮å 𝘦𝘯𝘥𝘦 𝘮𝘦𝘥 𝘴𝘢𝘮𝘮𝘦 𝘳𝘪𝘮 (𝘈𝘈𝘈𝘈𝘈). 6. 𝘋𝘪𝘬𝘵𝘦𝘵 𝘴𝘬𝘢𝘭 𝘷æ𝘳𝘦 𝘱å 𝘯𝘰𝘳𝘴𝘬. Det produserte diktet er kanskje ikke noe man ville puttett i sin diktsamling, men overholder alle reglene gitt: 𝐄𝐋5 𝐞𝐫 𝐫𝐞𝐧 𝐊𝐚𝐭𝐭𝐞𝐥𝐚𝐛𝐛𝐞𝐧 𝐬𝐞𝐧 𝐅𝐢𝐬𝐤𝐞𝐥𝐚𝐛𝐛𝐞𝐧 𝐩𝐞𝐧 𝐈𝐧𝐠𝐞𝐧 𝐛𝐞𝐧, 𝐦𝐞𝐧 𝐫𝐞𝐧 𝐑𝐞𝐧 𝐥𝐚𝐛𝐛, 𝐢𝐧𝐠𝐞𝐧 𝐯𝐞𝐧 Til sammenlikning ga GPT-4o, med akkurat samme oppgave, følgende svar: 𝐈 𝐅𝐢𝐬𝐤𝐞𝐥𝐚𝐛𝐛𝐞𝐧 𝐬𝐢𝐭𝐭 𝐬𝐭𝐢𝐥𝐥𝐞 𝐬𝐢𝐧𝐧, 𝐢 𝐊𝐚𝐭𝐭𝐞𝐥𝐚𝐛𝐛𝐞𝐧 𝐝𝐞𝐫 𝐚𝐥𝐥𝐞 𝐟𝐢𝐧𝐧𝐞𝐫 𝐢𝐧𝐧, 𝐄𝐋5 𝐠𝐥𝐢𝐭𝐫𝐞𝐫, 𝐞𝐧 𝐞𝐯𝐢𝐠 𝐯𝐢𝐧𝐝, 𝐝𝐞𝐫 𝐍𝐓𝐍𝐔 𝐛𝐫𝐢𝐧𝐠𝐞𝐫 𝐥𝐢𝐯𝐞𝐭𝐬 𝐬𝐢𝐧𝐧, 𝐢 𝐞𝐯𝐢𝐠𝐞 𝐦𝐢𝐧𝐧𝐞𝐫 𝐯𝐢 𝐛𝐢𝐧𝐝𝐞𝐫 𝐢𝐧𝐧. Dette diktet høres kanskje finere ut, men bryter med flere av de vanskelige restriksjonene som vi spurte om. Denne øvelsen illustrerer hvordan refleksjon i språkmodeller kan føre til betydelig bedre resultater uten behov for å trene en ny modell. Ved å la modellen tenke gjennom sine egne svar og planer, kan vi utnytte eksisterende teknologi på en mer effektiv måte.💡 Så til neste gang du går tom for "o1-requests" (50 per uke), så er du bare en LangGraph unna å selv kunne implementere dette.

A* Consulting gjør det vi kan for å bidra med student-innovasjon🦾 Vi er godt i gang med samarbeidet vårt med Cogito NTNU. Vi har kjøpt inn deler til "Astar Cogitron" som skal bruke reinforcement learning til å løse ulike oppgaver i den virkelige verden🤖 𝐒å 𝐥𝐚𝐧𝐠𝐭 𝐞𝐫... ⚙️ Servomotorer og kretskort bestilt og motatt 🦴 Skjelett er 3D-printet i Idégarasjen 🦾 To armer koblet sammen 𝐍𝐞𝐬𝐭𝐞 𝐬𝐭𝐞𝐠 𝐛𝐥𝐢𝐫... 🔹 Å trene robotarmene med reinforcement learning for å løse ønsket oppgaver 🔹 Finjustering av kontrollsystemene for nøyaktig bevegelse og interaksjon Vi ser frem til å se resultatet på avsluttende presentasjoner 13. november 💫

🤖 Ukens A* Agent: Booking Agent for NTNU RomRes📅 Denne uken viser vi fram vår booking agent – en prototype for å demonstrere hvordan språkmodeller kan brukes til å utføre enkle administrative oppgaver relatert til booking. 📖 Denne agenten lar oss enkelt finne ut hvilke rom NTNU-studenter kan låne, eller som er ledige, på en ellers mye "klikkete" nettside: https://lnkd.in/g7JG3Jrj 🚻 Agenten kan booke, ombooke og avbestille møterom, samt sjekke tilgjengelighet. 📆 Dette gjør håndtering av ressurser enklere og reduserer behovet for manuell administrasjon. Språkmodeller kan effektivisere mange daglige oppgaver, og denne agenten er et eksempel på hvordan vi kan bruke teknologi til å gjøre hverdagen smidigere. 🚀 Norwegian University of Science and Technology (NTNU) #AstarConsulting #Automatisering #BookingAgent #Effektivitet #Teknologi

💡 Møt Linn Emilie – vårt nyeste tilskudd i A* Consulting 🎉 Linn Emilie studerer datateknologi ved NTNU og er for tiden på utveksling i Århus. Hun har tidligere vært aktiv i BRAIN NTNU, og i sommer jobbet hun med KI hos TV 2🧠 Hos A* Consulting vil Linn Emilie få muligheten til å anvende sin tekniske kunnskap i praksis gjennom utfordrende prosjekter, og vi ser fram til alt vi kan oppnå sammen ✨ 💡 Velkommen til teamet, Linn Emilie!

💼 Møt Afras, vår nyeste tilskudd i A* Consulting 🎉 Afras er i sitt andre år på kybernetikk og robotikk ved NTNU og har allerede markert seg som aktiv i studentorganisasjonene Cogito NTNU og Vortex NTNU 🧠 I A* Consulting får Afras muligheten til å kombinere sine studier med praktisk erfaring gjennom spennende prosjekter. Vi er glade for å ha ham med på laget, og vi ser frem til å se hans utvikling hos oss 🌟 🚀 Velkommen, Afras!