deepfloyd-if 란? stable diffusion을 개발한 Stability 의 연구 조직인 DeepFloyd Lab에서 개발한 Text to image 모델이다.IF는 높은 수준의 현실적인 이미지 생성과 언어 이해 능력을 가지고 있고, 이미지에 원하는 텍스트를 넣어 생성할 수 있다는 점이 큰 차별점이다. Stable diffusion은 이미지 생성은 잘 했지만 텍스트를 포함한 이미지 예를들어 ‘mineral’ 을 포함한 네온 사인 을 그리려고 하면 네온 사인은 잘 그려도 mineral이란 텍스트를 온전하게 구현 해 내지 못한다는 단점이 있었다.  이미지를 보면 확실한 차이를 알 수있다. stable diffusion으로 생성한 이미지는 영어가 적혀있긴 하지만 제대로 읽을 수 어없다. 반면 IF..

Stable Diffiusion  Stable diffusion이란 diffusion을 활용한 딥러닝 모델이며, 여러 연구자들이 모여 오픈 소스로 공개하기 위한 목적으로 개발된 이미지 생성 모델입니다.Stable diffusion 이전에 OpenAI의 DALLE, DALLE2, Google의 Imagen 등 여러 모델이 공개되었지만, 모델의 전체 구조나 학습 파라미터들이 오픈 소스로 공개되지는 않았습니다. 하지만 Stable diffusion은 Stability.ai라는 곳에서 후원을 받아 모델을 개발한 이후 전부 오픈 소스로 공개하였습니다.Stable Diffiusion의 특징은 다음과 같습니다.모두 공개된 오픈 소스이다.GPU 1장으로도 inference가 가능해 쉽게 이미지 생성을 경험해 볼 수 있..

Diffusion 이란? Diffusion은 GAN, VAE와 같은 생성 모델(Generative Model)이다. 작년부터 화제를 모은 text-to-image모델인 Stable diffusion, DALL-E 2, Midjourney의 기반이 되는 모델이다.   Diffusion model의 학습 Diffusion model은 입력 이미지에 gaussian Noise를 여러 단계에 걸쳐 추가하여 완전한 random nosie로 만들어주는 과정을 거치고, 이후 여러 단계에 걸쳐 Noise를 제거하는 과정을 거침으로써 random noise로부터 이미지를 생성하는 과정을 수행한다.학습하는 과정에서 입력 이미지에 Noise가 서서히 확산(diffusion) 하기 때문에 Diffusion이라는 이름이 붙었다..

LLM(Large Language Model)  LLM  즉, 대규모 언어 모델은 사람들끼리 대화하듯 자연스러운 답변을 AI가 생성할 수 있도록 방대한 양의 텍스트 데이터에 대해 훈련된 AI 모델이다. 방대한 양의 데이터를 제대로 학습하기 위해 모델의 크기가 커질 수밖에 없으며 대략적으로 LLM 모델의 파라미터 개수는 100억 개를 넘는다.  일반적인 AI 모델의 파라미터 개수가 수백만~수억 개인 것에 비하면 상당히 많은 것을 알 수 있다.  파라미터 갯수가 중요한 이유는 파라미터 갯수가 많을수록 AI 모델을 학습하는데 오랜 시간이 소요되기 때문이다. 당연히 모델을 최적화하는 것도 오랜 시간이 걸리며  고사양의 GPU가 요구된다. 일반인들이 쉽게 LLM 모델을 학습하지 못하는 이유가 그것 때문이다.   ..

이전글에 이어서 AWS Personalize로 추천 시스템을 만들어보자. 3. 레시피를 선택하여 솔루션 생성 AWS Personalize에는 여러 가지 알고리즘이 미리 정의되어 있기 때문에, 필요에 맞게 적절한 알고리즘을 선택하면 된다. 이것을 레시피라고 부르며, 해당 레시피와 데이터를 이용하여 학습된 모델 결과물이 솔루션이다. AWS에서 제공하는 레시피는 다음과 같다.(글 작성일 기준), 공식문서에서 지원되는 레시피를 확인할 수 있다.(링크) USER_PERSONALIZATION 레시피 사용자가 상호 작용할 항목을 예측합니다. User-Personalization : 모든 맞춤형 추천 시나리오에 최적화되어 있습니다. 상호작용, 항목 및 사용자 데이터세트를 기반으로 사용자가 상호작용할 항목을 예측한다. ..

AWS Personalize 란? Personalize는 일반 추천 및 개인화된 추천을 위한 AWS에서 제공하는 AI/ML 서비스이다. AWS 하면 EC2나 S3정도만 아는 사람이 많은데 막상 보면 없는 서비스가 없다. Personalize를 이용하면 ML에 대한 깊은 지식 없이도 1시간 이면 상품 추천에 대한 모델을 만들 수 있다. Personalize 특징 1. 효율적인 cold start 문제 해결 Personalize를 이용한 상품 추천에서 Item exploration weight를 조절하여 새로운 아이템(interaction이 없는)에 대해 상품 추천이 될 수 있도록 하는 기능을 제공합니다. 기본 값은 0.3이며 이 말은 추천 상품의 30%는 items.csv에서, 70%는 interactio..