파운데이션 모델 연구소(IFM)의 연구원들은 최근 출시된 K2 Horizon 프로젝트와 관련하여 '무엇이든 물어보세요(AMA)' 세션을 진행하고 있습니다. 이 이니셔티브는 0.9B에서 375B 파라미터에 이르는 크기의 여섯 가지 완전히 오픈된 모델로 구성된 연결된 플릿으로 구성됩니다.
- IFM은 모델 가중치뿐만 아니라 학습 데이터, 레시피, 코드, 중간 체크포인트 및 세밀한 로그도 오픈소스화했습니다.
- AMA에서는 프리트레이닝 데이터 믹스, 포스트트레이닝 기술, MoVA, 스파스 어텐션, 온디바이스 배포 등의 주제를 다룹니다.
- IFM 팀원 여섯 명이 월요일인 10월 5일 오후 8시~10시(태평양 시간)에 예정된 라이브 세션에 참여합니다.