Ttoro_Tech

https://arxiv.org/abs/2409.12618 Iteration of Thought: Leveraging Inner Dialogue for Autonomous Large Language Model ReasoningIterative human engagement is a common and effective means of leveraging the advanced language processing power of large language models (LLMs). Using well-structured prompts in a conversational manner, human users can effectively influence an LLM to develarxiv.orgIterati..

https://www.youtube.com/watch?v=rOmrWC_K6M4 ('23.05.25. 기준 한 달뒤 공개될 예정) LLM? ChatGPT GPT-4 Bard 왜 LLM이 이렇게 인기가 많지? 다양한 Text 학습 다양한 지식을 알고 있음 언어 이해 능력 각 맥락의 문맥을 이해함 ICL : 학습없는 학습 예제 몇 개만으로도 높은 Few-shot 성능 쉬운 API 서비스들 OpenAI의 API 현실적 이슈 인력 LLM을 학습하거나 응용할 AI 개발자 예산 CPU 컴퓨팅은 비싸다 데이터 우리는 충분한 데이터를 가지고 있나? 그외 Privacy, Legal Issue LLM을 이용하는 다양한 방법 1. API 서비스를 활용하기 ChatGPT, GPT-4, HyperClova, ... 같은 서비스를..

https://dacon.io/competitions/official/236082/overview/description 도배 하자 유형 분류 AI 경진대회 - DACON 분석시각화 대회 코드 공유 게시물은 내용 확인 후 좋아요(투표) 가능합니다. dacon.io AIVLE 세번째 공모전 참여 최대 인원이 5명으로, 기존 4인과 한 분을 더 모집하여 이미지 분류 문제에 참가함 목표 이미지 데이터를 기반으로 도배의 하자 유형을 정확하게 분류해 낼 수 있는 AI 모델을 개발하자 지도 학습 + 컴퓨터비전 Classification : 가장 쉽게 접근할 수 있는 문제 정의로 이미지 전체를 보고 분류함 Segmentation : Object Detection 문제로 벽지의 하자는 이미지 전체를 보는 것이 아니라, ..

https://www.aitimes.com/news/articleView.html?idxno=151099 오픈AI, 3D 모델 생성하는 오픈소스 ‘쉐이프-E’ 공개 - AI타임스 오픈AI가 텍스트와 이미지를 입력해 3D 모델을 자동 생성하는 인공지능(AI) 도구인 ‘쉐이프-E(Shap-E)’를 출시했다고 톰스하드웨어가 12일(현지시간) 전했다.쉐이프-E는 단일 비디아 V100 GPU에서 텍 www.aitimes.com OpenAI, Shap-E를 공개 Shap-E 텍스트(Text)와 이미지(Image)를 입력하면 3D 모델을 자동 생성하는 인공지능(AI)도구 특징 단일 NVIDIA V100 GPU환경에서 3D 모델을 생성할 경우 텍스트를 입력할 경우 약 13초 이미지를 입력할 경우 약 1분 생성방법 다양..

https://aifactory.space/learning/2419/discussion/339 [챗GPT 러닝데이 | 챗GPT말고 LLM] LLM 기반 챗봇 만들기 - 박찬성 ChatGPT 이후 Large Language Model(LLM)과 챗봇 서비스에 대한 관심이 급증하는 가운데, Meta AI에서 LLaMA라는 LLM을 공개했습니다. 이후 다양한 aifactory.space '23.05.09 세미나 내용을 정리한 글입니다. LLM의 역사 다양한 LLM 모델이 등장함 ChatGPT의 등장, LLaMA 등 다양한 크기의 모델들이 등장하기 시작함 하지만 LLM 모델은 검증이 어려워 다양한 논문은 등장하고 있지만, 검증에 시간이 오래걸림 LLM 모델은 큰 모델 Docker 등을 통해 모델을 배포할 경우 ..

https://ttoro.tistory.com/70 [AIVLE_3기]_11주차_GPT GPT(Generative Pre-Training) 최근 ChatGPT(GPT-3.5)와 GPT-4까지 나오면서 화제가 되고 있는 NLP 모델이다. 11주차 미니 프로젝트에서는 자연어 분류 모델로 BERT를 사용하였지만, 다른 계열의 NLP 모델인 GPT에 ttoro.tistory.com GPT-2 (Generative Pre-Training) [paper] 이전 GPT 와 모델 구조는 비슷하나 더 크고 많은 학습 데이터와 파라미터로 성능을 올린 모델 GPT-2에 대한 자세한 모델은 공개하지 않음 (LLM의 위험성을 알림) 추후 작은 GPT-2 모델에 대해서 공개함 기존 문제점 많은 데이터 셋과 큰 사이즈의 모델을 지..

GPT(Generative Pre-Training) 최근 ChatGPT(GPT-3.5)와 GPT-4까지 나오면서 화제가 되고 있는 NLP 모델이다. 11주차 미니 프로젝트에서는 자연어 분류 모델로 BERT를 사용하였지만, 다른 계열의 NLP 모델인 GPT에 대해서도 정리하고자 한다. GPT 기존 방식 다양한 딥러닝 모델들은 레이블링된 데이터를 이용해서 학습을 진행 (Supervised Learning) 하지만 레이블된 데이터를 구하기는 쉽지 않음 GPT에서 제안된 방식 준지도 학습 방식을 제안(Semi-Supervised) 비지도 사전 학습(Unsupervised pre-training) + Supervised fine-tuning 최종적인 목표는 다양한 task에 대해 작은 변화만으로 적용시킬 수 있는..

https://www.aitimes.com/news/articleView.html?idxno=150387 메타, 이미지 분할 AI 모델 ‘SAM’ 공개 - AI타임스 메타가 5일(현지시간) 블로그에 사진 및 동영상에서 물체를 감지할 수 있는 새로운 인공지능(AI) 모델 \'SAM(Segment Anything Model)’을 개발, 미미지 분할 기술을 개선했다고 발표했다. SAM은 입력한 텍 www.aitimes.com Meta에서 개발한 새로운 인공지능 'SAM' 블로그에 사진 및 동영상에서 물체를 감지할 수 있는 새로운 인공지능(AI) 모델 SAM(Segment Anything Model) - 이미지 분할 기술 SAM(paper) 입력한 텍스트 프롬프트(Prompt)나 클릭한 지점을 기반 AI가 이미..

4차 미니프로젝트 주제 다양한 1:1 문의글이 존재할 때, 문의글의 단어와 문맥 등을 파악하여 각 문의별 담당자에게 빠르게 피드백을 받을 수 있도록 문의글을 분류해보자 sub : Bareun, N-gram, Sequence, KoBert, Text Classification 1. Dataset 다양한 문의 Label이 존재 코드에 관련된 문의가 가장 많은 것을 확인 할 수 있음 원격에 대한 문의가 가장 적은 것을 확인 할 수 있음 2. Data Processing NLP에서 자연어를 어떻게 전처리하는가는 매우 다양한 방법이 있으며, 방법에 따라 성능이 바뀜 이번 프로젝트에서는 다양한 처리 방법 중 데이터 증강 수집 Oversampling 형태소 분석기 영어 한국어 분리 한국어 띄어쓰기 검사 및 특수문자 ..

https://jalammar.github.io/illustrated-transformer/ The Illustrated Transformer Discussions: Hacker News (65 points, 4 comments), Reddit r/MachineLearning (29 points, 3 comments) Translations: Arabic, Chinese (Simplified) 1, Chinese (Simplified) 2, French 1, French 2, Japanese, Korean, Persian, Russian, Spanish 1, Spanish 2, Vietnames jalammar.github.io Attention을 활용한 모델 Transformer Attention을 학..