분명 그거도 완벽하진 않아도 소통이 된다는것에서 좋긴한데 솔직히 내가 해외여행 가거나 해외거래처랑 이야기하는거 아니면 쓸 일이 있을까 싶음

ㅇㅇ 그 두개말고 또 다른게 있나 싶어서 물어본건데 아직 그거말곤 없는거지?

아니 그런걸 생각하진 않았고 그럴려면 OS가 받쳐줘야하는데 아직은 그럴단계는 아닌거같은데

너가 볼땐 최소한 이정도는 되어야지 온디바이스 ai 환경이라고 생각하는 너의 비전이 머임?

센트리는 머임?

번역기능은 생각보다 다들 유용하게들 쓰나보네?

나도 그렇게 느껴지는게 이미 몇년전부터 ai가 기사도 스스로쓰고 이거저거 지금 우리가 하는거 개발자나 연구자들한테는 다보여줬었고 이제서야 상용화 한거긴한데 이게 막 처음 나왔을때나 혁신이 일어날것처럼 보였는데 아직은 이걸로하여금 엄청난 새로운 산업 먹거리가 생긴것도 아니고 이런것도 할수있다 정도라고 보여짐 분명 유용한 기능도 몇몇개 있는데 아직까진 확장성이 부족하다고 해야하나 싶음 앞으로 점점 새로운게 나오겠지?

나오긴 하겠지만 지금은 회사들이 다 새로운거 만들기보다 나온걸로 돈벌어야 하는 시기라 원래 있던거 우려먹기(이걸로 돈버는법 찾기) 시전할 가능성이 높음

덕분에 일반인이 느끼기에는 5년단위로 퀀텀점프하는느낌일듯

알파고에서 바로 챗지피티온거처럼

아 온디바이스를 하는 이유가 비용절감이 이유였던거야? 절대 성능은 엔비디아 gpu가 훨씬 넘사벽인가보네?

온디바이스 AI 는 최대한 성능을 유지하면서 큰 모델을 작게 만들고 에너지 소비량을 줄이는데 방점이 있음. 이를테면 GPT-4 는 200~300B 인데 반해서 모바일에 올라가는 모델들은 1B~13B 정도로 100배정도 작은 모델임. 성능차이도 꽤나 심함

근데 GPT-4 inference 돌릴라면 GPU4~8 대 (비용 1억) 에서 돌려야되고, 모바일은 누구한테나 다 있는거니까 공짜나 다름없지...

그정도로 차이가 심하구나 몰랐네 ㄷㄷㄷㄷ

그럼 진짜 성능 좋은 gpt 모델은 돈되는 상업용이나 연구소에서나 쓰이는거지?