Genie: Generative Interactive Environments 논문 : https://arxiv.org/abs/2402.15391?utm_source=pytorchkr 사이트 : https://sites.google.com/view/genie-2024/home?utm_source=pytorchkr Google DeepMind가 공개한 Gennie는 레이블이 지정되지 않은 인터넷 비디오를 통해 비지도 학습 방식으로 훈련된 최초의 생성적 대화형 환경이다. 모델은 텍스트, 합성 이미지, 사진, 심지어 스케치를 통해 설명되는 끝없이 다양한 액션 제어 가능한 가상 세계를 생성할 수 있다. 11B 규모의 파라미터를 가진 Genie는 Foundation World Model로 시공간 비디오 토크나이저,..

openAI - Sora https://openai.com/research/video-generation-models-as-world-simulators?utm_source=pytorchkr Video generation models as world simulators We explore large-scale training of generative models on video data. Specifically, we train text-conditional diffusion models jointly on videos and images of variable durations, resolutions and aspect ratios. We leverage a transformer architecture ..

구글 Machine Unlearning Challenge Today we're thrilled to announce that we've teamed up with a broad group of academic and industrial researchers to organize the first Machine Unlearning Challenge. 훈련된 모델에서 데이터를 제거(언러닝) 하는 기술 개발을 목표로 하고 있다. 언러닝은 개인정보 및 데이터 보호 법규 준수를 위해서도 중요하다. 챌린지는 NeurIPS 2023 Competition Track 중 하나로 캐글에서 열리며 얼굴 이미지 데이터로 연령 예측자를 훈련한 후 특정 이미지를 잊어버려야 하는 시나리오에 중점을 둔다. ✅ EU의 AI 규제 발표..

새로운 정렬 알고리즘 Paper : https://www.nature.com/articles/s41586-023-06004-9 구글 딥마인드(DeepMind)는 강화 학습을 사용해 더 효율적인 알고리즘을 발견하는 인공지능 시스템인 AlphaDev를 소개했다. AlphaDev는 바둑, 체스 등의 게임에서 세계 챔피언을 이긴 강화 학습 모델 AlphaZero를 기반으로 새로운 알고리즘을 발견하기 위한 과정을 게임으로 변환해 학습했다. AlphaDev가 하나의 명령어를 선택하면 이후 CPU에 포함된 정보를 관찰해 다음 명령을 선택하는데 결과적으로 정렬이 얼마나 빠르고 효율적인지에 대해 보상함으로써 훈련이 이뤄졌다. 결과적으로 AlphaDev가 개선한 정렬 알고리즘은 기존 방법들보다 1.7% 효율적으로 작동했고..

샘 알트만과 따로 만나 1시간 동안 나눈 이야기 by 스캐터랩 김종윤 6월 9일 openAI CEO 샘 알트만과 주요 멤버의 방한으로 IT 업계가 떠들썩했다. 소수의 AI 기업과 함께한 Round Table Talks에 참여한 스캐터랩이 Q&A를 정리해 공유했다. API를 사용하는 방식에 대해 얼마나 통제하기를 원하는지의 질문에 "최고의 기술을 만들 뿐이지 이걸 어디에 어떤 방식으로 써야하는지 정하는 역할까지는 하고 싶지 않다."고 답했다. openAI는 스스로 중립적인 플랫폼의 역할을 할 것이라는 걸 강조했다. GPT 파인튜닝의 필요성에 대해서는 필요하지만 GPU 부족과 다른 기능 개발로 인해 밀리고 있다고 답했다. Hallucination의 해결 가능성에 대해서는 모델이 좋아질수록 빠르게 개선되고 있..

5월 31일 아시아 최대 규모 생성 AI 컨퍼런스가 뤼튼 주최로 열렸다. 글로벌 시장 동향, 미래 전망, 기술 및 비즈니스 응용 전반을 다루며 국내외 다양한 생태계 리더들을 소개하는 아시아 최초 컨퍼런스라고 소개하며 네이버클라우드 성낙호 이사, 카카오브레인 김일두 대표, 허깅페이스 CSO 등 의 인사를 초청했음을 밝혔다. 가격은 얼리버드 기준 165,000원이었다. 장소 ⭐️⭐️⭐️⭐️ 그랜드 인터컨티넨탈 서울 파르나스에서 진행된 만큼 장소는 쾌적했다. 불쾌할만큼 북적거리거나 자리가 부족한 일은 없었다. 그리고 호텔 도시락이라 그런가 중간 간식과 점심 퀄리티가 꽤 좋았다. 프로그램 진행 ⭐️⭐️⭐️ 진행에 있어 장비의 부족함은 없었다. 하지만 준비되지 않은 순간들이 있었다. 대표적으로 참여자 질문을 위한..