https://reposhub.com/python/natural-language-processing/pingpong-ai-dialogue-generation-models.html

이거보면 gpt2 기반으로 pre-train model만든거 같은데 놀랍게도

https://ai.googleblog.com/2020/12/privacy-considerations-in-large.html

gpt2에서 데이터 유출하는 방법이 있음.

일반적인 language model처럼 위키나 bookcorpus, gpt2처럼 webtext쓴거 아닌 이상 남의 카톡 데이터가 유출될 방법이 생긴건데 이게 왜 별일이 아님.

아무리그래도 그 결과로 누군지 특정할 수도 없는 연애앱에 올린 대화자료가 개인정보 침해라는건 너무 언어도단이지 않나?

글쎄... 뭐 언어도단일 수도 있겠지?

필터링이 제대로 안되어 있다면 (그렇다는 증거가 몇몇있는데), 개인정보 유출이 가능한게 맞음. 그러니까 니가 말한것처럼 '아무것도 모르는 애들이 또 소설썼구만'같은 반응은 보이면 안되지 ㅋㅋ 그거야말로 언어도단이지

그리고 내가 개인정보 제공자라면 존나게 찜찜할것 같은데. 데이터 쓰는걸 허락했지 그걸 공개하는데 허락은 안 했잖아?

사회공학적 해킹이라고 한단당

1. 이루다를 만든 회사에서 만든 학습된 인공지능 모델들을 오픈소스로 공개함 (이건 문제없음)

2. 공개된 여러 모델 중 GPT2 기반인 모델도 있음

3. 해당 모델은 어떤 데이터를 통해 학습했는지 유출하는 방법이 있는 모델임 (위에 개붕이가 알려줌)

4. 즉 여기서 만약 학습시 사용한 많은 데이터를 개인정보 필터링 없이 학습시켰다면 문제임 (이건 확인 안됨)

즉 기자는 일단 얘네들 개인정보 필터링 안했을 확률이 높으니까 이건 문제임! 이런 느낌
GPT2 얘기는 위에 개붕이가 한거고 기사는 2,3 내용은 빼고 1,4 얘기만 한거라서, 기사가 말한거에선 문제될건 아닌거 같음 (아닐수도 있음 나도 전문분야는 아니라서)

근데 위에 개붕이가 말했듯이 하필이면 GPT2모델도 있어서 문제가 될 확률이 있다는것.

이와 별개로 이루다를 만들때 사용한 학습데이터가 사용자들에게 허락받지 않고 모았다는 의혹이 있는 걸로 알고있음

단 이것도 의혹이 있고 적법한 방법으로 했는지는 정확히 확인 안된걸로 암

그건 너만..

깃허브가 뭔 사이트인지는 아냐 ㅋㅋㅋ 개발자들이 자료 나누는 게 주 목적인 곳인데

무식하면 용감하지 ㅋㅋ

난 전공자는 아닌데 뭐하는 데인지는 알고 있음 ㅋㅋ 관심이 좀 있어서