Mô hình AI mới của Tencent giúp biến hình ảnh thành video bằng gợi ý đơn giản

Sơn Vân18/03/2024 11:00
Mô hình AI mới của Tencent giúp biến hình ảnh thành video bằng gợi ý đơn giản

Gã khổng lồ công nghệ Tencent hôm 15.3 đã giới thiệu mô hình trí tuệ nhân tạo (AI) Follow-Your-Click hỗ trợ chuyển đổi hình ảnh thành video với sự cộng tác của các đối tác học thuật.

Đã được Tencent (Trung Quốc) đưa lên trên nền tảng GitHub của Microsoft, Follow-Your-Click cho phép người dùng người dùng nhấp vào các phần nhất định trên hình ảnh kèm gợi ý bằng văn bản đơn giản rằng muốn nó di chuyển như thế nào, sau đó ảnh tĩnh sẽ chuyển đổi thành đoạn video hoạt hình ngắn.

Dự án này là sự hợp tác giữa nhóm Hunyuan của Tencent, Đại học Khoa học và Công nghệ Hồng Kông cùng Đại học Thanh Hoa (một trong hai trường đại học hàng đầu của Trung Quốc ở thủ đô Bắc Kinh).

GitHub là nền tảng dành cho việc quản lý mã nguồn mở và dự án phần mềm. Nó cung cấp các công cụ để các nhà phát triển phần mềm có thể làm việc cùng nhau trong việc phát triển, quản lý và theo dõi mã nguồn của các dự án.

GitHub cho phép người dùng lưu trữ mã nguồn của họ trên các kho lưu trữ, theo dõi các thay đổi, quản lý phiên bản, tạo ra các nhánh để thử nghiệm tính năng mới và hợp nhất các thay đổi từ nhiều người dùng khác nhau vào dự án chung. Đây là một trong những nền tảng phổ biến nhất, quan trọng nhất cho cộng đồng phát triển phần mềm mã nguồn mở và dự án phần mềm kỹ thuật mở.

Tencent cho biết sẽ phát hành mã nguồn đầy đủ của Follow-Your-Click vào tháng 4, nhưng bản demo đã có sẵn trên GitHub. Các nhà nghiên cứu đã trình diễn một số khả năng của Follow-Your-Click ở đó. Một kết quả cho thấy hình ảnh con chim với gợi ý “vỗ cánh” đã biến thành file MP4 ngắn về con chim có màu sắc cầu vồng vẫy một bên cánh. Hình ảnh khác về cô gái đứng ngoài trời với gợi ý một từ đơn giản là “bão” đã biến thành hình ảnh động với tia chớp lóe lên ở phía sau.

follow-your-click-mo-hinh-ai-moi-cua-tencent-giup-bien-hinh-anh-thanh-video-bang-goi-y-don-gian.jpg
Một số video và ảnh động do Follow-Your-Click tạo ra có trên GitHub

Theo bài báo học thuật của các nhà nghiên cứu từ ba tổ chức nêu trên, Follow-Your-Click được tạo ra nhằm mục đích giải quyết các vấn đề mà các mô hình chuyển hình ảnh thành video khác trên thị trường gặp phải là có xu hướng di chuyển toàn bộ cảnh thay vì tập trung vào các đối tượng cụ thể trong ảnh. Các mô hình AI khác yêu cầu người dùng đưa ra những mô tả chi tiết về cách thức và nơi họ muốn hình ảnh di chuyển.

Những nhà nghiên cứu viết trong bài đăng trên arXiv (kho lưu trữ bài báo khoa học trực tuyến): “Khung làm việc của chúng tôi có khả năng kiểm soát người dùng đơn giản hơn nhưng chính xác hơn và hiệu suất tạo ra tốt hơn so với các phương pháp trước đây”.

Việc tạo video từ văn bản đã trở thành một chủ đề nóng kể từ khi OpenAI giới thiệu Sora vào ngày 15.2. Sora có thể tạo video tối đa 1 phút với hình ảnh ấn tượng, chân thực dựa trên gợi ý từ người dùng. Mô hình AI này tạo ra các cảnh phức tạp với nhiều nhân vật, các kiểu chuyển động cụ thể cũng như chi tiết chính xác về chủ đề và hậu cảnh dựa trên những gì người dùng yêu cầu.

Trong lĩnh vực chuyển văn bản và hình ảnh thành video, Pika Labs có trụ sở tại Thung lũng Silicon, do Guo Wenjing (chuyên gia người Trung Quốc) tại Đại học Stanford (Mỹ) đồng sáng lập, là ngôi sao đang lên khác. Công ty khởi nghiệp này đã huy động được 55 triệu USD trong các vòng vốn hạt giống và vốn Series A từ một số tên tuổi lớn nhất trong ngành công nghệ.

Vào tháng 1, Tencent đã trình làng công cụ chỉnh sửa và tạo video nguồn mở VideoCrafter2, có khả năng tạo video từ văn bản. Đây là phiên bản cập nhật của VideoCrafter1, được phát hành vào tháng 10.2023 nhưng chỉ giới hạn ở các video chỉ 2 giây.

Gần như cùng thời gian đó, ByteDance đã phát hành mô hình chuyển văn bản thành video MagicVideo-V2. Theo trang GitHub của dự án, MagicVideo-V2 kết hợp “mô hình chuyển văn bản thành hình ảnh, trình tạo chuyển động video, mô đun nhúng hình ảnh tham chiếu và mô đun nội suy khung vào một đường dẫn tạo video từ đầu đến cuối”.

ModelScope, đơn vị của Damo Vision Intelligence Lab thuộc Alibaba, cũng giới thiệu mô hình chuyển văn bản thành video nhưng hiện chỉ hỗ trợ đầu vào tiếng Anh và đầu ra video bị giới hạn trong 2 giây.

Alibaba mới đây tung ra công cụ AI tạo video chân dung có tên EMO (Emotive Portrait Alive), hỗ trợ biến hình ảnh và gợi ý về âm thanh thành video người hát và nói chuyện.

Được nghiên cứu bởi Viện Điện toán Thông minh (IIC) của Alibaba cùng các tác giả LinRui Tian, Qi Wang, Bang Zhang và LieFeng Bo, EMO có khả năng "tạo biểu cảm kèm âm thanh từ nhân vật trong ảnh". Nói cách khác, EMO có thể biến một hình ảnh tham chiếu tĩnh và âm thanh giọng nói thành video người có thể nói, hát với biểu cảm tự nhiên.

So với các AI trước đây chỉ làm biến đổi miệng và một phần khuôn mặt, EMO có thể tạo nét mặt, tư thế, di chuyển phần lông mày, nhíu mắt hay thậm chí lắc lư theo điệu nhạc. Đặc biệt, phần miệng được AI thể hiện tự nhiên, đồng bộ môi chính xác.

Trong một số video do Alibaba công bố, hình ảnh sẽ biến thành video và hát các bài được nhập vào nhanh chóng. Ngoài tiếng Anh và tiếng Trung, EMO cũng hỗ trợ nhiều ngôn ngữ khác. Alibaba cho biết đã huấn luyện AI với lượng lớn dữ liệu về hình ảnh, âm thanh và video nhằm tạo biểu cảm khuôn mặt một cách chân thực thông qua mô hình khuếch tán riêng có tên Audio2Video.

"Chúng tôi muốn giải quyết thách thức lớn hiện nay là tính chân thực và tính biểu cảm trong việc tạo video từ hình ảnh và âm thanh bằng cách tập trung vào mối liên hệ cũng như sắc thái giữa tín hiệu âm thanh và chuyển động trên khuôn mặt. Phương pháp được áp dụng là tổng hợp, bỏ qua liên kết mô hình 3D trung gian hoặc các điểm mốc trên khuôn mặt, chuyển tiếp khung hình liền mạch và bảo toàn tính nhất quán trong video, mang lại ảnh động có tính biểu cảm cao và sống động như thật", đại diện nhóm giải thích.

Hiện dữ liệu của EMO đã được công bố trên Github, còn các tài liệu nghiên cứu được đăng trên ArXiv. Alibaba chưa tiết lộ khi nào sẽ phát hành công khai EMO.

Gần đây, các giáo sư từ Đại học Bắc Kinh và Rabbitpre (công ty AI có trụ sở tại thành phố Thâm Quyến, Trung Quốc) đã thực hiện một nỗ lực mới để phát triển phiên bản Trung Quốc của Sora.

Nhóm các nhà nghiên cứu này đã cùng nhau đưa ra kế hoạch Open-Sora thông qua một trang trên nền tảng lưu trữ mã nguồn GitHub, với sứ mệnh “tái tạo mô hình tạo video từ văn bản của OpenAI”.

Kế hoạch Open-Sora nhằm mục đích tái tạo một phiên bản “đơn giản và có thể mở rộng” của Sora với sự trợ giúp từ cộng đồng nguồn mở.

Theo trang GitHub của dự án này, nhóm nghiên cứu đã phát triển một khung công việc gồm 3 phần và trình chiếu 4 bản demo của các video được tái tạo ở các độ phân giải và tỷ lệ khung hình khác nhau, từ 3 giây đến 24 giây.

Các nhiệm vụ tiếp theo của nhóm gồm tinh chỉnh công nghệ để tạo ra độ phân giải cao hơn cũng như đào tạo với nhiều dữ liệu hơn và nhiều bộ xử lý đồ họa (GPU) hơn.

Kế hoạch Open-Sora được đưa ra bởi Rabbitpre AIGC Joint Lab (sự hợp tác giữa Trường Cao học Thâm Quyến của Đại học Bắc Kinh và Rabbitpre), thành lập vào tháng 6.2023. Rabbitpre AIGC Joint Lab chuyên nghiên cứu trong lĩnh vực nội dung do AI sản xuất.

Dự án Open-Sora liệt kê 13 thành viên là nhóm ban đầu, gồm cả trợ lý Giáo sư Yuan Li từ khoa Kỹ thuật Điện và Máy tính của Đại học Bắc Kinh và Giáo sư Tian Yonghong từ Trường Khoa học Máy tính. Danh sách này còn có Dong Shaoling (người sáng lập kiêm Giám đốc điều hành Rabbitpre) và Chu Xing (Giám đốc công nghệ Rabbitpre).

 


Gửi bình luận
(0) Bình luận
1

Top 10 cao thủ võ hiệp Kim Dung: Không có tên Dương Quá, số 1 gây nhiều tranh cãi

Vì sao cao thủ đứng đầu lại khiến nhiều người nghi ngờ thực lực?
2

Có gì đặc biệt trong video "hút" 1,4 tỷ lượt xem sau 24 giờ đăng Youtube?

Một đoạn video ngắn đã đạt được hơn 1,4 tỷ lượt xem chỉ sau 24 giờ được đăng lên Youtube. Đoạn video này có gì đặc biệt mà lại thu hút lượt xem "kinh khủng" đến như vậy?
3

Cao thủ kỳ lạ của Kim Dung: 70 tuổi bắt đầu luyện võ, 120 tuổi trở thành vô địch thiên hạ

Nhiều fan nguyên tác cho rằng cao thủ này có thể sánh ngang với Trương Tam Phong.
4

Nhân vật duy nhất trong Tây Du Ký có 7 tên gọi khác nhau là ai và có ý nghĩa gì?

Tây Du Ký là một trong những bộ phim có ý nghĩa lớn trong lòng độc giả.
5

Câu nói "Núi cao có đường chở khách, sông sâu có người lái đò" trong Tây Du Ký nghĩa là gì?

81 kiếp nạn của thầy trò Đường Tăng đều đúc kết trong 4 câu nói kinh điển.

Top 10 cao thủ của Anh hùng xạ điêu: Quách Tĩnh bét bảng, ai đứng đầu?

Cao thủ đứng ở vị trí thứ nhất hóa ra là người này?

Sát nhân dị nhất của Kim Dung khiến Đào Cốc Lục Tiên sợ một phép, chết vì lý do lãng xẹt

Sát nhân này tuy xuất hiện thoáng qua nhưng vẫn khiến nhiều fan nguyên tác nhớ mãi nhờ tính tình cổ quái.

Cao thủ "lười biếng" của Kim Dung: Sở hữu 7 tuyệt kỹ vô địch nhưng không luyện tập vì lý do này

Cao thủ này có nhiều cơ hội để trở thành người đứng đầu thiên hạ nhưng lại từ bỏ.

Bên trong ‘trang trại cày lượt view’ trên các mạng xã hội

Đài CNN cho biết năm ngoái, nhiếp ảnh gia người Anh Jack Latham dành ra 1 tháng ở Hà Nội để ghi lại hoạt động của 5 cơ sở chuyên giúp tăng lượt truy cập và mức độ tương tác trên mạng xã hội.

Tiếng kêu của một loài còn khiến muôn loài ở châu Phi sợ hãi hơn sư tử

Trong hơn 10.000 bản ghi âm về động vật hoang dã trên thảo nguyên châu Phi, 95% các loài được quan sát phản ứng với mức độ kinh hoàng hơn nhiều trước âm thanh của một loài.

4 đại cao thủ kỳ lạ của Kim Dung: Được coi là đứng đầu thiên hạ nhưng thất bại lãng xẹt

Những cao thủ này được công nhận là có võ công mạnh nhất thời của họ.

Rơi từ trên cao trong giấc mơ: Mối liên hệ bí mật giữa giấc ngủ và sự tiến hóa của loài người

Trong giấc mơ, bạn như thể rơi từ trên cao xuống và tỉnh dậy với khuôn mặt đầy kinh hãi. Tuy nhiên, loại giấc mơ này không chỉ là ảo giác đơn thuần, đằng sau nó còn có mối liên hệ bí mật với quá trình tiến hóa của loài người.

Sát-na này là thiên thu - 15 kỹ năng sinh tồn giúp bạn vượt qua đau khổ (Kỳ 1)

Có nhiều cẩm nang, sách hướng dẫn kỹ năng thoát hiểm, sinh tồn trong thảm họa, xử lý tai nạn trong đời sống thường ngày nhưng hình như hiếm có cẩm nang hướng dẫn kỹ năng sinh tồn giúp bạn sống sót và bình an khi khổ đau bỗng nhiên ập tới.

Người quản lý dự án

Blog GS John VU - GS John Vu - 17/04/2024 12:00
Tôi có một người bạn vừa được đề bạt làm người quản lí dự án phần mềm. Anh ấy sung sướng bởi vì sau nhiều năm làm người lập trình, cuối cùng anh ấy cũng đạt được chức vụ mà anh ấy hằng mong muốn.

Cách giải tỏa cơn giận hiệu quả

Kỹ năng - Cẩm Bình - 17/04/2024 11:00
Hãng tin AFP dẫn một nghiên cứu mới của Nhật Bản chỉ ra khi giận dữ không nên quát mắng đồng nghiệp hay hét với gối, mà hãy viết cảm xúc ra giấy rồi xé nhỏ hoặc vứt đi để bình tĩnh lại.

Những câu nói ‘để đời’ của CEO Apple Tim Cook: Nhiều khi trong cuộc sống, thà dựa vào trực giác!

Suy ngẫm - Ứng Hà Chi - 17/04/2024 10:00
Nhiều khi trong cuộc sống, việc dựa vào trực giác sẽ phù hợp hơn. Điều thú vị là tôi thấy rằng trực giác đóng vai trò quan trọng khi đưa ra những quyết định quan trọng nhất", năm 2010, Tim Cook có bài phát biểu tốt nghiệp tại Đại học Auburn.

Sát-na này là thiên thu - 15 kỹ năng sinh tồn giúp bạn vượt qua đau khổ (Kỳ 1)

Từ sách - Phim - Quang Thanh - 17/04/2024 09:00
Có nhiều cẩm nang, sách hướng dẫn kỹ năng thoát hiểm, sinh tồn trong thảm họa, xử lý tai nạn trong đời sống thường ngày nhưng hình như hiếm có cẩm nang hướng dẫn kỹ năng sinh tồn giúp bạn sống sót và bình an khi khổ đau bỗng nhiên ập tới.

Gia Định là nhớ - Sài Gòn là thương: Yêu Sài Gòn, thì nhất định phải đọc

Từ sách - Phim - My My - 17/04/2024 08:00
Sài Gòn cái tên nghe thân thương biết bao nhiêu. Sài Gòn mảnh đất trù phú, hào phóng, rộng lượng. Sài Gòn là sau này của Sài Gòn - Gia Định, là trước đây của TPHCM. Hiểu về quá khứ để biết nâng niu hiện tại.

Việc quản lý dự án

Blog GS John VU - GS John Vu - 16/04/2024 12:00
Quản lí dự án phần mềm là việc khó.

Mark Zuckerberg nảy ra ý tưởng về tính năng chọc trên Facebook lúc say rượu thời sinh viên

Thư giãn - Sơn Vân - 16/04/2024 11:00
Khi say rượu thời còn là sinh viên, Mark Zuckerberg đã phát minh ra poke (chọc), một trong những tính năng vừa sáng tạo nhất vừa kỳ quặc nhất của mạng xã hội Facebook.

Đàn ông có nhận thức càng cao, ở tầng lớp càng cao, càng bản lĩnh, càng tin vào nhân quả

Suy ngẫm - Diệu Đan - 16/04/2024 10:00
Trong cuộc sống, tôi đã gặp rất nhiều người thành công có những đặc điểm tương tự. Họ không xuề xòa với người khác, công việc, gia đình và thậm chí cả cách ăn mặc của chính mình.

Người đàn bà trong tôi - Britney Spears

Tủ sách - FN - 16/04/2024 09:00
​​​​​​​Khám phá bức chân dung đa tầng đằng sau sân khấu của ‘công chúa nhạc pop’ Britney Spears.

Khám phá bức chân dung đa tầng đằng sau sân khấu của ‘công chúa nhạc pop’ Britney Spears

Tủ sách - FN - 16/04/2024 08:30
Trong quyển hồi ký chân thành và sâu sắc “Người đàn bà trong tôi” (tựa gốc: The Woman in Me), nữ ca sĩ nhạc pop Britney Spears mang đến một câu chuyện chưa từng được công bố trong bất kỳ bài báo nào.

Đủ duyên ta lại tương phùng - Sao cứ phải đi tìm bình yên ở nơi xa?

Từ sách - Phim - YÊN VŨ - 16/04/2024 08:00
Thông qua những chiêm nghiệm đầy triết lý trong "Đủ duyên ta lại tương phùng", đại đức Thích Đồng Tâm đã giúp độc giả nhận ra rằng dù bạn đang ở đâu bạn vẫn có thể sống một cách tự tại và an yên.

Đại học

Blog GS John VU - GS John Vu - 15/04/2024 12:00
Tôi có nói chuyện với một người bạn là giáo sư đại học về cách thức đại học sử dụng ngân quĩ do chính phủ cấp. Anh ấy nói rằng ưu tiên thứ nhất là xây dựng kí túc xá, rồi cải thiện thư viện với nhiều sách hơn, cuối cùng mới tới phòng học.

Câu nói "Núi cao có đường chở khách, sông sâu có người lái đò" trong Tây Du Ký nghĩa là gì?

Thư giãn - Trang Ly - 15/04/2024 11:00
81 kiếp nạn của thầy trò Đường Tăng đều đúc kết trong 4 câu nói kinh điển.

Sau cả ngày làm việc mệt mỏi, sao bạn vẫn cố gắng thức đêm lướt điện thoại?

Phong cách sống - Thanh Long - 15/04/2024 10:00
Có một cái tên rất kêu cho hiệu ứng tâm lý này. Các nhà khoa học gọi nó là "Trì hoãn giấc ngủ để trả thù". Nhưng rốt cuộc thì bạn đang trả thù điều gì?

Đủ duyên ta lại tương phùng – Nhân sinh như một tách trà, đậm nhạt tùy duyên đối đãi

Từ sách - Phim - Quang Thanh - 15/04/2024 09:00
Sai lầm lớn nhất của chúng ta là níu giữ quá nhiều ký ức khổ đau và nhớ những thứ sai lầm thuộc về quá khứ.
HẠT GIỐNG TÂM HỒN
2019 Bản quyền thuộc về hatgiongtamhon.com.vn. Phát triển bởi ONECMS
Thứ 5, 18/04/2024