Creado paso 3.5
This commit is contained in:
parent
b31644553e
commit
f329d30a38
Binary file not shown.
|
@ -0,0 +1 @@
|
||||||
|
from funciones_comunes import *
|
Binary file not shown.
|
@ -0,0 +1,44 @@
|
||||||
|
# Diccionario de idiomas
|
||||||
|
IDIOMAS = {
|
||||||
|
1: ("English", "en-GB"),
|
||||||
|
2: ("Portuguese", "pt-PT"),
|
||||||
|
3: ("Spanish", "es-ES"),
|
||||||
|
4: ("Russian", "ru-RU"),
|
||||||
|
5: ("French", "fr-FR"),
|
||||||
|
6: ("German", "de-DE"),
|
||||||
|
}
|
||||||
|
|
||||||
|
def mostrar_idiomas():
|
||||||
|
print("Selecciona el idioma de destino:")
|
||||||
|
for numero, (nombre, _) in IDIOMAS.items():
|
||||||
|
print(f"{numero}: {nombre}")
|
||||||
|
|
||||||
|
def transformar_texto(texto):
|
||||||
|
# Sustituir [[digits]] por <>
|
||||||
|
texto_transformado = re.sub(r'\[\[digits\]\]', '<>', texto)
|
||||||
|
# Sustituir cualquier <...> por <#>
|
||||||
|
texto_transformado = re.sub(r'<.*?>', '<#>', texto_transformado)
|
||||||
|
return texto_transformado
|
||||||
|
|
||||||
|
|
||||||
|
def save_dataframe_with_retries(df, output_path, max_retries=5, retry_delay=5):
|
||||||
|
"""
|
||||||
|
Guarda un DataFrame en un archivo Excel, reintentando si el archivo está en uso.
|
||||||
|
|
||||||
|
:param df: El DataFrame a guardar.
|
||||||
|
:param output_path: La ruta del archivo donde se guardará el DataFrame.
|
||||||
|
:param max_retries: El número máximo de reintentos en caso de error.
|
||||||
|
:param retry_delay: El tiempo de espera (en segundos) entre cada reintento.
|
||||||
|
"""
|
||||||
|
retries = 0
|
||||||
|
while retries < max_retries:
|
||||||
|
try:
|
||||||
|
df.to_excel(output_path, index=False)
|
||||||
|
print("Archivo guardado exitosamente.")
|
||||||
|
return
|
||||||
|
except PermissionError as e:
|
||||||
|
print(f"Error de permiso: {e}. Reintentando en {retry_delay} segundos...")
|
||||||
|
retries += 1
|
||||||
|
time.sleep(retry_delay)
|
||||||
|
|
||||||
|
print(f"No se pudo guardar el archivo después de {max_retries} intentos.")
|
|
@ -2,13 +2,7 @@ import pandas as pd
|
||||||
import os
|
import os
|
||||||
import re
|
import re
|
||||||
from manejoArchivos import select_file
|
from manejoArchivos import select_file
|
||||||
|
import funciones_comunes
|
||||||
def transformar_texto(texto):
|
|
||||||
# Sustituir [[digits]] por <>
|
|
||||||
texto_transformado = re.sub(r'\[\[digits\]\]', '<>', texto)
|
|
||||||
# Sustituir cualquier <...> por <#>
|
|
||||||
texto_transformado = re.sub(r'<.*?>', '<#>', texto_transformado)
|
|
||||||
return texto_transformado
|
|
||||||
|
|
||||||
def exportar_para_traduccion(archivo_maestro):
|
def exportar_para_traduccion(archivo_maestro):
|
||||||
if not os.path.exists(archivo_maestro):
|
if not os.path.exists(archivo_maestro):
|
||||||
|
@ -25,7 +19,7 @@ def exportar_para_traduccion(archivo_maestro):
|
||||||
|
|
||||||
# Transformar las demás columnas
|
# Transformar las demás columnas
|
||||||
for columna in df_maestro.columns[1:]:
|
for columna in df_maestro.columns[1:]:
|
||||||
df_export[columna] = df_maestro[columna].apply(lambda x: transformar_texto(str(x)) if pd.notnull(x) else x)
|
df_export[columna] = df_maestro[columna].apply(lambda x: funciones_comunes.transformar_texto(str(x)) if pd.notnull(x) else x)
|
||||||
|
|
||||||
# Guardar el archivo exportado
|
# Guardar el archivo exportado
|
||||||
ruta_export = os.path.join(os.path.dirname(archivo_maestro), '.\\data\\2_master_export2translate.xlsx')
|
ruta_export = os.path.join(os.path.dirname(archivo_maestro), '.\\data\\2_master_export2translate.xlsx')
|
||||||
|
|
|
@ -0,0 +1,74 @@
|
||||||
|
import funciones_comunes
|
||||||
|
|
||||||
|
import pandas as pd
|
||||||
|
import os
|
||||||
|
import re
|
||||||
|
import logging
|
||||||
|
from manejoArchivos import select_file
|
||||||
|
|
||||||
|
def configurar_logger(ruta_log):
|
||||||
|
os.makedirs(".\\data", exist_ok=True)
|
||||||
|
logger = logging.getLogger('.\\data\\importacion_logger')
|
||||||
|
logger.setLevel(logging.INFO)
|
||||||
|
fh = logging.FileHandler(ruta_log, encoding='utf-8')
|
||||||
|
fh.setLevel(logging.INFO)
|
||||||
|
formatter = logging.Formatter('%(asctime)s - %(message)s')
|
||||||
|
fh.setFormatter(formatter)
|
||||||
|
logger.addHandler(fh)
|
||||||
|
return logger
|
||||||
|
|
||||||
|
def revertir_transformaciones(texto, digitos, secciones):
|
||||||
|
# Revertir <> a [[digits]]
|
||||||
|
for digito in digitos:
|
||||||
|
texto = texto.replace('<>', digito, 1)
|
||||||
|
# Revertir <#> a <...> usando las secciones originales
|
||||||
|
for seccion in secciones:
|
||||||
|
texto = texto.replace('<#>', f'<{seccion}>', 1)
|
||||||
|
return texto
|
||||||
|
|
||||||
|
def importar_traduccion(archivo_maestro, archivo_traduccion, target_lang_code, nivel_afinidad_minimo):
|
||||||
|
if not os.path.exists(archivo_maestro):
|
||||||
|
print("El archivo maestro no existe.")
|
||||||
|
return
|
||||||
|
|
||||||
|
target_col = f"{target_lang_code} Translated"
|
||||||
|
affinity_col = f"{target_lang_code} Affinity"
|
||||||
|
|
||||||
|
df_maestro = pd.read_excel(archivo_maestro)
|
||||||
|
df_traduccion = pd.read_excel(archivo_traduccion)
|
||||||
|
|
||||||
|
# Configurar el logger
|
||||||
|
directorio = os.path.dirname(archivo_maestro)
|
||||||
|
nombre_log = os.path.join(directorio, 'importacion_traduccion.log')
|
||||||
|
logger = configurar_logger(nombre_log)
|
||||||
|
|
||||||
|
# Iterar sobre las filas del archivo de traducción para actualizar el maestro
|
||||||
|
for index, fila in df_traduccion.iterrows():
|
||||||
|
clave = fila[df_maestro.columns[0]]
|
||||||
|
if clave in df_maestro[df_maestro.columns[0]].values:
|
||||||
|
# Comprobar afinidad y valores no nulos/vacíos
|
||||||
|
if fila[affinity_col] >= nivel_afinidad_minimo and pd.notnull(fila[target_col]) and fila[target_col] != "":
|
||||||
|
valor_traducido = fila[target_col]
|
||||||
|
valor_original = df_maestro.loc[df_maestro[df_maestro.columns[0]] == clave, target_col].values[0]
|
||||||
|
|
||||||
|
if pd.notnull(valor_original) and str(valor_original) != str(valor_traducido):
|
||||||
|
df_maestro.loc[df_maestro[df_maestro.columns[0]] == clave, target_col] = valor_traducido
|
||||||
|
logger.info(f'Fila {index}, Columna {target_col}: "{valor_original}" actualizado a "{valor_traducido}"')
|
||||||
|
|
||||||
|
# Guardar el archivo maestro actualizado
|
||||||
|
funciones_comunes.save_dataframe_with_retries(df_maestro,output_path=archivo_maestro)
|
||||||
|
print(f"Traducciones importadas y archivo maestro actualizado: {archivo_maestro}. Detalles de los cambios en {nombre_log}")
|
||||||
|
|
||||||
|
|
||||||
|
if __name__ == "__main__":
|
||||||
|
archivo_maestro = ".\\data\\1_hmi_master_translates.xlsx"
|
||||||
|
archivo_traduccion = ".\\data\\3_master_export2translate_translated.xlsx"
|
||||||
|
|
||||||
|
nivel_afinidad_minimo = float(input("Introduce el nivel minimo de afinidad para importar: "))
|
||||||
|
funciones_comunes.mostrar_idiomas()
|
||||||
|
seleccion_idioma = int(input("Introduce el número del idioma de destino: "))
|
||||||
|
if seleccion_idioma not in funciones_comunes.IDIOMAS:
|
||||||
|
print("Selección inválida.")
|
||||||
|
else:
|
||||||
|
target_lang, target_lang_code = funciones_comunes.IDIOMAS[seleccion_idioma]
|
||||||
|
importar_traduccion(archivo_maestro, archivo_traduccion, target_lang_code, nivel_afinidad_minimo )
|
|
@ -5,7 +5,6 @@ import re
|
||||||
import logging
|
import logging
|
||||||
from openai_api_key import openai_api_key
|
from openai_api_key import openai_api_key
|
||||||
from google_api_key import google_api_key
|
from google_api_key import google_api_key
|
||||||
from x2_master_export2translate import transformar_texto
|
|
||||||
import ollama
|
import ollama
|
||||||
import json
|
import json
|
||||||
from google.cloud import translate_v2 as translate
|
from google.cloud import translate_v2 as translate
|
||||||
|
@ -13,42 +12,11 @@ from google.oauth2 import service_account
|
||||||
import html
|
import html
|
||||||
from tqdm import tqdm
|
from tqdm import tqdm
|
||||||
import time
|
import time
|
||||||
|
import funciones_comunes
|
||||||
|
|
||||||
openai_client = OpenAI(api_key=openai_api_key())
|
openai_client = OpenAI(api_key=openai_api_key())
|
||||||
GOOGLE_APPLICATION_CREDENTIALS = "translate-431108-020c17463fbb.json"
|
GOOGLE_APPLICATION_CREDENTIALS = "translate-431108-020c17463fbb.json"
|
||||||
|
|
||||||
# Diccionario de idiomas
|
|
||||||
IDIOMAS = {
|
|
||||||
1: ("English", "en-GB"),
|
|
||||||
2: ("Portuguese", "pt-PT"),
|
|
||||||
3: ("Spanish", "es-ES"),
|
|
||||||
4: ("Russian", "ru-RU"),
|
|
||||||
5: ("French", "fr-FR"),
|
|
||||||
6: ("German", "de-DE"),
|
|
||||||
}
|
|
||||||
|
|
||||||
def save_dataframe_with_retries(df, output_path, max_retries=5, retry_delay=5):
|
|
||||||
"""
|
|
||||||
Guarda un DataFrame en un archivo Excel, reintentando si el archivo está en uso.
|
|
||||||
|
|
||||||
:param df: El DataFrame a guardar.
|
|
||||||
:param output_path: La ruta del archivo donde se guardará el DataFrame.
|
|
||||||
:param max_retries: El número máximo de reintentos en caso de error.
|
|
||||||
:param retry_delay: El tiempo de espera (en segundos) entre cada reintento.
|
|
||||||
"""
|
|
||||||
retries = 0
|
|
||||||
while retries < max_retries:
|
|
||||||
try:
|
|
||||||
df.to_excel(output_path, index=False)
|
|
||||||
print("Archivo guardado exitosamente.")
|
|
||||||
return
|
|
||||||
except PermissionError as e:
|
|
||||||
print(f"Error de permiso: {e}. Reintentando en {retry_delay} segundos...")
|
|
||||||
retries += 1
|
|
||||||
time.sleep(retry_delay)
|
|
||||||
|
|
||||||
print(f"No se pudo guardar el archivo después de {max_retries} intentos.")
|
|
||||||
|
|
||||||
|
|
||||||
def configurar_logger():
|
def configurar_logger():
|
||||||
logger = logging.getLogger("translate_logger")
|
logger = logging.getLogger("translate_logger")
|
||||||
|
@ -87,12 +55,6 @@ def google_translate(text, target_language):
|
||||||
logger = configurar_logger()
|
logger = configurar_logger()
|
||||||
|
|
||||||
|
|
||||||
def mostrar_idiomas():
|
|
||||||
print("Selecciona el idioma de destino:")
|
|
||||||
for numero, (nombre, _) in IDIOMAS.items():
|
|
||||||
print(f"{numero}: {nombre}")
|
|
||||||
|
|
||||||
|
|
||||||
def read_system_prompt():
|
def read_system_prompt():
|
||||||
try:
|
try:
|
||||||
with open(".\\data\\system_prompt.txt", "r", encoding="utf-8") as file:
|
with open(".\\data\\system_prompt.txt", "r", encoding="utf-8") as file:
|
||||||
|
@ -169,7 +131,7 @@ def affinity_batch_openai(texts_dict):
|
||||||
"Evaluate the semantic similarity between the following table of pairs of texts in json format on a scale from 0 to 1. "
|
"Evaluate the semantic similarity between the following table of pairs of texts in json format on a scale from 0 to 1. "
|
||||||
"Return the similarity scores for every row in JSON format as a list of numbers, without any additional text or formatting."
|
"Return the similarity scores for every row in JSON format as a list of numbers, without any additional text or formatting."
|
||||||
)
|
)
|
||||||
original_list = [transformar_texto(key) for key in texts_dict.keys()]
|
original_list = [funciones_comunes.transformar_texto(key) for key in texts_dict.keys()]
|
||||||
re_translated_list = list(texts_dict.values())
|
re_translated_list = list(texts_dict.values())
|
||||||
|
|
||||||
request_payload = json.dumps(
|
request_payload = json.dumps(
|
||||||
|
@ -243,7 +205,7 @@ def main(file_path, target_lang_code, target_lang, traducir_todo, batch_size=10)
|
||||||
if source_translated_col in df.columns
|
if source_translated_col in df.columns
|
||||||
else ""
|
else ""
|
||||||
)
|
)
|
||||||
processed_text = transformar_texto(source_text)
|
processed_text = funciones_comunes.transformar_texto(source_text)
|
||||||
|
|
||||||
if traducir_todo:
|
if traducir_todo:
|
||||||
if texto_requiere_traduccion(processed_text):
|
if texto_requiere_traduccion(processed_text):
|
||||||
|
@ -353,7 +315,7 @@ def main(file_path, target_lang_code, target_lang, traducir_todo, batch_size=10)
|
||||||
output_path = os.path.join(
|
output_path = os.path.join(
|
||||||
os.path.dirname(file_path), "3_master_export2translate_translated.xlsx"
|
os.path.dirname(file_path), "3_master_export2translate_translated.xlsx"
|
||||||
)
|
)
|
||||||
save_dataframe_with_retries(df,output_path=output_path)
|
funciones_comunes.save_dataframe_with_retries(df,output_path=output_path)
|
||||||
logger.info(f"Archivo traducido guardado en: {output_path}")
|
logger.info(f"Archivo traducido guardado en: {output_path}")
|
||||||
print(f"Archivo traducido guardado en: {output_path}")
|
print(f"Archivo traducido guardado en: {output_path}")
|
||||||
|
|
||||||
|
@ -362,12 +324,12 @@ if __name__ == "__main__":
|
||||||
batch_size = 20
|
batch_size = 20
|
||||||
translate_file = ".\\data\\2_master_export2translate.xlsx"
|
translate_file = ".\\data\\2_master_export2translate.xlsx"
|
||||||
|
|
||||||
mostrar_idiomas()
|
funciones_comunes.mostrar_idiomas()
|
||||||
seleccion_idioma = int(input("Introduce el número del idioma de destino: "))
|
seleccion_idioma = int(input("Introduce el número del idioma de destino: "))
|
||||||
if seleccion_idioma not in IDIOMAS:
|
if seleccion_idioma not in funciones_comunes.IDIOMAS:
|
||||||
print("Selección inválida.")
|
print("Selección inválida.")
|
||||||
else:
|
else:
|
||||||
target_lang, target_lang_code = IDIOMAS[seleccion_idioma]
|
target_lang, target_lang_code = funciones_comunes.IDIOMAS[seleccion_idioma]
|
||||||
traducir_todo = (
|
traducir_todo = (
|
||||||
input("¿Desea traducir todas las celdas (s/n)? ").strip().lower() == "s"
|
input("¿Desea traducir todas las celdas (s/n)? ").strip().lower() == "s"
|
||||||
)
|
)
|
||||||
|
|
Loading…
Reference in New Issue