[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
, u5 X$ e; e% y& ]* [大哥，你这个头像很爱啊，像ai又想vam，有没有出处

7 p! y' o) u1 H) I抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
import imagehash
from PIL import Image

/ K& v: c: Z: ?7 V7 Y1 m# p" Vdef compute_image_hash(image_path):
    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
    try:
        with Image.open(image_path) as image:
/ `0 c3 N. @$ H& W            return imagehash.average_hash(image)
    except (OSError, IOError) as e:
+ q6 b( U' M7 U- F        print(f"处理图像 {image_path} 时出错: {e}")
        return None
9 ]- O. L4 Z& W3 E$ W- U$ _; n0 u' L
def remove_duplicates(image_folder):
    hash_dict = {}
8 Q" |7 u' x2 X; n    duplicates = []

/ _1 J, P2 R' g  i    for filename in os.listdir(image_folder):
, s0 V/ S! ~- G6 `8 W+ s        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
4 o" ~6 f! [8 V, {) X2 e" m( }            image_path = image_folder + "\\" + filename
* G0 X8 K3 o* |; r$ v& _: H            image_hash = compute_image_hash(image_path)
  |, x  \: _( y1 X2 j
% A" `- A2 A& }# _9 U( |            if image_hash in hash_dict:
! [2 L% N6 s* f5 y                duplicates.append(image_path)
# }# J  `6 l* O9 `' Y7 ?            else:
                hash_dict[image_hash] = image_path
, e$ x: P* ]& i$ r        else:
            pass
; `% S6 t* {& n
& M  Z) k  Z" T/ n( ^3 L  y! @8 a    for duplicate in duplicates:
+ o9 l" m" X" i. j% v        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")
+ k9 ~6 ~+ k$ y  t' g
    print("Duplicate removal complete.")

image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
% Q6 `  A" R! n; Uremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
) G* c8 T. Y/ t) R+ ~有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
" j6 u2 w' L4 j# ~8 s. e大哥，你这个头像很爱啊，像ai又想vam，有没有出处

一眼ai