Ttoro_Tech

Deep & Cross Network에서 개선된 버전1. Deep & Cross Network V2 [Paper]DCN에서 개선점Cross Network기존 : Cross Network의 경우 각 임베딩 layer를 선형 형태로 가중치를 두어 상호 피처 영향력을 계산함개선 : 가중치를 2차원으로 두어 상호 피처의 정보를 유지한 채로 가중치를 업데이트할 수 있게 됨또한 처음 입력 정보를 원소간 곱으로 계산하여 정보 손실을 방지함이를 통해 CrossNetwork는 기존 DCN 모델보다 더 풍부하게 표현이 가능함2. 모델 구조DCN v2의 경우 기존 DCN과 달리 2가지 형태로 구조를 가질 수 있음ParallelW&D 및 기존 DCN과 동일한 형태로, CrossNetwork 정보와 Deep Network 정보..

추천 모듈을 개발하면서 있었던 일에 대한 기록1. Wide and Deep가장 처음 개발한 추천 모델추후 내용 정리할 예정2. Wide & Deep Model 문제점피처 엔지니어링Wide 와 Deep 파트에 들어가는 피처(column)를 사용자가 직접 선택해야 하는 어려움이 있음직접 선택하는 과정(피처 엔지니어링)은 데이터 분석에 대한 이해가 필요하기 때문에 매우 어려운 작업자동으로 피처를 선택하는 방법은 없을까?매우 Sparse한 데이터추천 시스템의 학습 데이터의 경우 범주형 데이터로 이뤄짐범주형 데이터의 경우 원 핫 벡터로 만들어 학습을 하기 때문에 피처의 분산(유니크 데이터 개수)이 클수록 매우 희소한 벡터가 만들어지게 됨희소 벡터를 사용하게 되는 경우, 모델 학습에 방해가 되며 자원도 많이 소모됨..

https://www.aitimes.kr/news/articleView.html?idxno=29556 [AI 이슈] 딥마인드 AI 모델 'GNoME', 220만 개 새로운 소재 구조 예측!...곧 생산될 수 있는 '후보 물질 구글 딥마인드(DeepMind)가 인공지능(AI) \'지노메(Graph Networks for Materials Exploration. 이하, GNoME)\' 이용해 미래 기술을 강화할 수 있는 38만개의 안정적인 재료를 포함하여 220만 개의 새로운 소재 ... www.aitimes.kr 구글 딥마인드(DeepMind) 인공지능 지노메(Graph Networks for Materials Exploration - GNoME) 미래 기술을 강화할 수 있는 38만개의 안정적인 재료를 포..

https://n.news.naver.com/mnews/article/009/0005199602?sid=105 스켈터랩스, ‘벨라 큐나’ 업데이트 “기업의 LLM 도입 장벽 낮춘다” 챗봇구축 자동화 위한 문서 업로드 기능부터 챗봇 내 기능 확장 위한 API 키 제공 등 인공지능(AI) 기업 스켈터랩스(대표 조원규)는 대규모언어모델(LLM) 기반 챗봇 솔루션인 ‘벨라 큐나(BELLA QNA)’ n.news.naver.com 인공지능(AI) 기업 스켈터랩스 대규모언어모델(LLM) 기반 챗봇 솔루션인 '벨라 큐나(BELLA QNA)'를 업데이트함 벨라 큐나(BELLA QNA) LLM 기반 질의응답(Q&A) 챗봇 솔루션 전문성 있는 정보, 기업 내부 정보를 기반으로 동작 LLM 생태계를 표방한 벨라 브랜드를 런..

https://n.news.naver.com/mnews/article/014/0005074921?sid=105 SKB, AI로 지역채널 뉴스 경쟁력 강화 SK브로드밴드는 지역채널 뉴스에 인공지능(AI) 기술을 적용해 프로그램 경쟁력을 강화한다고 19일 밝혔다. SKB는 SK텔레콤의 AI 기술을 이용해 케이블 지역채널에 방영 중인 '이시각 보도국'의 진행 n.news.naver.com SK브로드밴드 지역채널 뉴스에 인공지능 기술을 적용해 프로그램 경쟁력 강화 SKB SK텔레콤의 AI 기술을 이용해 케이블 지역채널에 방영 중인 '이시각 보도국'의 진행자이자 정년퇴임을 앞둔 베테랑 심재호 기자를 AI휴먼으로 구현, 방송을 송출할 예정 해당 기술은 SKT가 독립기념관과 함께 사진 복원 작업을 거쳐 유관순 열사와..

https://aifactory.space/task/2511/overview 2023 제1회 철도 인공지능 경진대회 열차 주행 안전성 진단을 위한 탈선계수 예측 모델 개발 경진대회를 개최합니다! aifactory.space AIVLE SCHOOL을 마치고 KT AIVLE SCHOOL을 마치고 8월에 참가한 두번째 데이터 분석 대회이다. AI FACTORY는 이전 AIVLE SCHOOL 3기때도 여러번 팀을 결성하여 참가했던 경험이 있고, 특히 이번에는 쉽게 접할 수 없는 철도 데이터를 분석할 수 있는 기회라 참가하게 되었다. 한국철도999 팀 AIVLE SCHOOL을 수료하고 이후에 아침마다 수료생분들과 모여 취업준비를 하는 모임에서 해당 대회에 참가를 희망하는 팀원들(총 4인)을 모집하였다. 팀원들은 ..

https://www.aitimes.com/news/articleView.html?idxno=152929 "프롬프트 엔지니어링으로 GPT-4 수능 국어 상위 5% 도달" - AI타임스 프로젝트 팀 노마다마스는 프롬프트 엔지니어링으로 \'GPT-4\' 성능을 강화, 수능 국어 2등급(상위 5%)을 달성했다고 17일 밝혔다. 노마다마스는 포스텍영재기업인교육원 AI 과정의 지도교수 정철현 www.aitimes.com 프로젝트 팀 노마다마스 프롬프트 엔지니어링으로 'GPT-4' 성능을 강화 수능 국어 2등급(상위 5%)을 달성했다고 밝힘 노마다마스 포스텍영재기업인교육원 AI 과정의 지도교수 정철현 박사와 제자들로 이뤄진 팀 이번 프로젝트는 한국어 모델의 성능이 뒤떨어지는 이유에 의문을 가지며 시작함 Prompt..

https://www.aitimes.com/news/articleView.html?idxno=149931 “로봇이 캠핑장 누빈다”...KT, 배송로봇 사업 협력 - AI타임스 KT(대표 구현모)는 캠핑톡 및 캠핑아웃도어와 함께 서울 북한산 글램핑장에서 실외 자율주행로봇 사업 확산을 위한 MOU를 체결했다고 14일 밝혔다.캠핑톡은 캠핑장 검색, 예약, 결제를 원스톱으로 www.aitimes.com KT - 캠핑톡 - 캠핑아웃도어 서울 북한산 글램핑장에서 실외 자율주행로봇 사업 확산 MOU 체결 캠핑톡 캠핑장 검색, 예약, 결제를 원스톱으로 지원하는 캠핑장 예약 플랫폼 회사 전국 450여개 업체와 제휴, 캠핑장을 검색할 수 있는 서비스를 제공 캠핑아웃도어 캠핑과 글램핑을 전문으로 기획하는 시공사 경상남도 진..

https://wikidocs.net/22893 15-01 어텐션 메커니즘 (Attention Mechanism) 앞서 배운 seq2seq 모델은 **인코더**에서 입력 시퀀스를 컨텍스트 벡터라는 하나의 고정된 크기의 벡터 표현으로 압축하고, **디코더**는 이 컨텍스트 벡터를 통해서 출력 … wikidocs.net Seq2Seq의 문제점 하나의 고정된 크기의 벡터에 모든 정보를 압축하려고 하니 정보 손실이 발생 RNN의 고질적인 문제인 기울기 소실(Vanishing Gradient) 문제가 발생 이러한 문제점을 해결하기 위해 등장한 Attention 개념 Attention Decoder에서 출력된 단어를 예측하는 매 시점(Time step)마다, Encoder의 전체 입력 문장을 다시 한번 참고 전체 ..