자연어처리8 트랜스포머를 넘어 MoE와 SSM까지, 미래 AI의 방향은? | AGI 구현 위한 요구 컴퓨팅 량 너무 높아 | MoE, Mamba, Jamba 등 AI 아키텍처 등장 https://www.youtube.com/watch?v=NSt259rpsKM 트랜스포머를 넘어 MoE와 SSM까지, 미래 AI의 방향은 어디로?**"Attention is all you need"**라는 말과 함께 트랜스포머 모델이 등장한 지도 벌써 7년이 흘렀습니다. 트랜스포머는 텍스트, 오디오, 비디오 등 다양한 애플리케이션에 활용되며 AI의 패러다임을 바꿨습니다. 하지만 트랜스포머가 모든 것을 해결할 수 있는 모델은 아닙니다. 계산량, 전력 소모, 메모리 사용량 문제 등 여러 한계점이 존재하기 때문입니다.오늘은 트랜스포머의 대안으로 떠오르는 MOE(Mixture of Experts), 그리고 **SSM(State Space Models)**에 대해 알아보겠습니다. 이들은 기존 AI 아키텍처의 한계.. 2024. 11. 28. 스마트폰에서 인공지능 라마 3.1 사용해보기, Groq에서 미친 속도 체감하기 (코드깍는 노인, 2024.7.26) https://www.youtube.com/watch?v=PbCEXH8Ivr4 스마트폰에서 인공지능 라마 3.1 사용해보기최근 인공지능 기술의 발전은 눈부십니다. 특히 오픈AI의 챗봇 모델 중 하나인 라마(LLaMA) 3.1은 뛰어난 성능으로 많은 관심을 받고 있습니다. 라마 3.1은 CPU나 GPU보다 효율적으로 AI 성능을 향상시켜주는 LPU(Llama Processing Unit)를 사용하여 빠른 응답 속도를 제공합니다. 이번 글에서는 라마 3.1을 스마트폰에서 간편하게 사용하는 방법을 자세히 설명하고자 합니다. 라마는 오픈 소스이기 때문에 누구나 직접 설치하여 사용할 수 있지만, 고사양을 요구하기 때문에 일반 사용자에게는 어렵습니다. 따라서 별도의 설치 없이 간편하게 사용할 수 있는 방법을 소개합.. 2024. 7. 27. 메타 Ollama를 이용해 LLM을 실행하는 방법 : 내 컴퓨터에 AI 깔아서 커스터마이징 등 사용하는 방법 Ollama를 이용해 로컬 컴퓨터에서 LLM을 실행하는 방법에 대해 알아보겠습니다.Ollama 소개Ollama는 Llama 2, Code Llama, Mistral 등 다양한 대규모 언어 모델(LLM)을 로컬 컴퓨터에서 쉽게 실행할 수 있게 해주는 경량 프레임워크입니다[3][4]. 복잡한 설정 없이 개인 프로젝트나 연구에 LLM을 활용할 수 있어 매우 편리합니다.Ollama를 설치하고 실행하는 방법은 다음과 같습니다:설치 방법:macOS: 공식 웹사이트에서 Ollama.app 파일을 다운로드하여 응용 프로그램 폴더로 이동합니다[1][4].Linux: 터미널에서 다음 명령어를 실행합니다[1][4][5]:curl -fsSL https://ollama.com/install.sh | shWindows: 현재 W.. 2024. 7. 26. 챗GPT는 이제 선택이 아니라 필수가 되고 있다 (박정호 교수) https://www.youtube.com/watch?v=cXq_ONPkx1w 챗GPT는 최근 몇 년간 AI 기술의 발전과 함께 빠르게 주목받고 있습니다. 이제는 단순히 대화형 AI로서의 기능을 넘어, 다양한 분야에서 필수적인 도구로 자리잡고 있습니다. 챗GPT를 활용하면 다양한 질문에 대한 답변을 얻을 수 있을 뿐만 아니라, 창의적인 콘텐츠를 제작하거나 복잡한 데이터를 분석하는 데도 큰 도움이 됩니다. 박정호 교수님의 연구와 강의에서도 챗GPT의 활용 가능성에 대한 논의가 활발히 이루어지고 있으며, 이는 AI 기술의 중요성을 더욱 부각시키고 있습니다. 챗봇 기술은 다양한 산업에서 이미 활용되고 있으며, 특히 고객 서비스, 마케팅, 교육 분야에서 큰 효과를 보고 있습니다. 챗GPT는 이러한 챗봇 기술을 .. 2024. 7. 23. 이전 1 2 다음 반응형
