파파괴

문돌이라 코드 몰라!

새로운 창작물이지

어떤결과 뽑느냐에 따라 다른 논문 작성하는 것처럼

'니가 만든 망치로 내가 책상 만들면 이 책상도 니거가 되나?' 이런 논리랑 비슷할거같음.

db내용에 종속되는게 판례

그거 내가 이쪽분야에서 유명한교수님께 지적재산권 관련해서 물어봤는데

아직명확하게 규정하기 힘들다는게 답변이었음 그래서 학자들끼리도 얘기가 많이되는이슈임

덧붙이면 단순하게 창작물이라고 단정짓기도 힘든게 해상도를 높이는 super resolution기술을 적용하면 새로운 결과물이나오지만 이걸 창작물이라 규정하기도 애매한거지

다시말해서 기존데이터에 시각적으로 큰변형없는 결과물을 생성하는 모델들도 있는데 이런건 창작물이라고 단정짓기도 애매함

종속되었다고 보는게 맞지. dataset의 분포에 따라 학습된 모델의 특성도 달라지니깐. 그래서 아무리 딥러닝 알고리즘이 우수하더라도 dataset collection이 잘못되면 말짱도루묵임.

단지 딥러닝 학습 알고리즘은 dataset에 종속되는 정도를 조절하거나 추가적인 prior를 설정할 뿐 dataset에 종속되는 건 어쩔수 없음.

닉값 ㄷㄷ;

그런데 저렇게 공개할 때 데이터셋에 대해서는 설명만 해놓고 공개하지 않으면서, weight만 공개하면 딱히 상관 없지 않나?

여타 논문 중에서, 특히 의료쪽은 데이터셋이 공개되지 않은 걸로 학습해서 결과를 올리는 경우가 더러 있는 모양이던데

이전에 누군가가 언급했지만 특정 입력을 넣었을 때 개인정보가 담긴 출력을 낼 경우가 있다고 함. 즉, 데이터셋에 필터링이 안되어있어서 data leak를 발생시킬 수 있음.

글고 보니 너 예전에 accuracy 문제로 댓글 달았던 개붕이네? 해결 잘 됐음?

아 ㅋㅋ 어 그건 덕분에 해결 잘 됐음

개인정보라는 단어가 왜 들어가는지 ㅋㅋ

공개 범위바꿀수있을거야

라이센스도 달수있고 위에 애 말대로 프라이빗으로 바꿀 수도 있음

마소가 인수하먄서 프라이빗도 일부 무려화 된걸로 아는뎅.. 학식이라 자세한건 몰겠당

뭔소리여...

아직 엔터프라이즈 서비스도 멀쩡히 운영하는구만

그건 어디서 들은 뇌피셜임?

https://www.imaso.co.kr/archives/4582

마소가 18년인수, 깃허브 19년도부터 프라이빗 모드 일부(3명까지) 무료화 / 이게 뇌피셜임? ㅋㅋ

무력화의 오타로 봤음

쏘리

함 보고싶어서 확인해 보니 이미 비공으로 돌린건지 404 뜨고 아카이브에 저장된 내용정도는 찾아보니 나오는데

말 그대로 기본 학습만 해놓은 모델을 올려놓은거 같음

내 전공이 아니라 자세힌 모르지만

본 레포는 모델의 학습 로직을 포함하고 있지 않습니다.

본 학습은 대량의 카톡 데이터를 이용한 사전학습만 완료한 상태이기 때문에 실사용을 할 때는 모델을 원하는 목적에 맞게 파인튜닝한 뒤 사용하시는 것을 권장드립니다.

이렇게 나와있네

이게 문제가 될꺼린가?

아카이브에 저장된거 어디서 봐?

https://reposhub.com/python/natural-language-processing/pingpong-ai-dialogue-generation-models.html

이건데 학습 set이 올라와 있는건 아니고 학습한 모델이 올라와 있는듯

근데 이것도 상관없지 않나?

설령 개인정보 처리를 하지 않고 학습을 했다고 하더라도 학습한 모델을 다운받아서 어떤 학습set이 사용되었는지 알수 없고 설명 알아낸다고 해도 학습set(아마 dialogue 겠지)을 통해서 개인을 특정해낼수도 없을텐데..

내가 이쪽은 그냥 아예 몰라서 이렇게 생각했는데 어떰?

gpt2면 문제가 됨.

https://ai.googleblog.com/2020/12/privacy-considerations-in-large.html

작년 12월에 나온 논문인데, gpt2를 통해 data leak 생기는게 발견됨. 필터링 잘 했다면 모르겠는데 안 한것 같던데...

글네 만약 개인정보 필터링을 안하고 학습을 했으면 문제인거네

근데 이것도 확인된 사항은 아니니..

그래서 좀 알려진 네트워크 pre-trained model weight도 깃헙에서 보통 링크를 남겨 줘서 거기서 받으라하지.

아 ㅋㅋ 열어놨네 시발

https://webcache.googleusercontent.com/search?q=cache:DSzpEaRoh5EJ:https://github.com/pingpong-ai/dialogue-generation-models/releases+&cd=1&hl=ko&ct=clnk&gl=kr&client=firefox-b-d

이거 같은데 근데 모델을 봤을 때는 이루다랑 상관없는걸로 보임.

이루다는 BERT기반인데 여기는 GPT2네. 킹리적 갓론으로 아마 같은 데이터를 공유하지 않았을까 싶은데, 여튼 '이루다의 모델은 공개되지 않았다'가 팩트인듯.

근데 문제는 데이터이고 저 모델이 활용한 데이터가 개인정보 침해 소지가 있는 데이터일 가능성이 높지

그거랑 별개의 얘기라는거임 내말은. 데이터로 모델 학습시켰다고 해서 일반적으로 데이터가 유출되진 않음.

나도 그렇다고 봄. 근데 저게 대화 생성 모델이라 인풋을 조절하면 개인정보가 나오진 않을까 궁금. 이번에 밝혀진 이유도 사실 대화에서 나온거다보니...

저거 인풋 조절하면 주소랑 계좌번호 이런거 뱉는다더만

깃헙에 올라온 모델도 적대적 마이닝하면 충분히 나올 수 있는 상황이겠지

보통은 안하겠지만 그래도 그럴 가능성이 있는걸 방치할수도 없는 노릇이겠고

프라이빗이면 기자가 어떻게 저걸 찍어서 올려놨겠어

보통은 링크 따로 주고 거기가서 받으라고 함. 아카이브보니까 올려놓은게 맞는듯

저건 문제가 되는게 맞다 개붕아.

뭐가