La IA contesta y se queda tan ancha

Una de las cosas que estoy viendo últimamente en foros, es contestar con respuestas que da chatgpt y esto me horroriza especialmente. Parece que dejemos “opinar” a la IA como uno mas y si bien en algunos casos  nos puede resultar de ayuda en otros no vale dejar el recadito que nos ha dado, el ”mira lo que me ha dicho...”.

Evidentemente todo el mundo es libre de hacer lo que le da la gana, solo intento dar mi opinión al respeto, porque  parece que entremos en un “estado” de vaguería o poco esfuerzo. Pienso que si se plantea un problema técnico, es bueno consultarlo y ver si alguien se ha encontrado o se le ocurre alguna idea. En el caso de que alguien no sepa una respuesta y simplemente transmite una contestación de la IA, parece hasta una falta de respeto, es como decir...mira  lo que me ha dicho.

Ya se buscar y preguntar en el chatgpt. Ya he creado mis propias búsquedas y he obtenido mis resultados y conclusiones, no hace falta que lo hagas por mi.

Si alguien ofrece una respuesta técnica que la ha probado y constatado con el chatgpt, me parece perfecto y muchas gracias, pero el concepto de copy/paste, ten, ya lo probarás y ya dirás lo creo hasta un vacile. 

Soy de los que he sido muy cauto con el tema, está evolucionando a pasos agigantados, y aún no hay nada del todo claro. Leo sobre las distintas evoluciones, pregunto sobre el tema, hago mis propias pruebas, y saco mis conclusiones.

Se y ya podemos afirmar que la IA va a cambiar el paradigma de la programación, pero falta tiempo todavía, quizás muchos de nosotros estará jubilado hasta que un sistema cree auténticos ERPs para empresas si  hablamos en clave de diseñadores de software empresarial.

Actualmente lo veo como que puedes preguntar sobre cuestiones sencillas y concisas y te dará soluciones que algunas buenas, otras normales y otras muy malas,  pero todo pasa a una supervisión y validación por tu parte como técnico en sistemas y programador de software.

Concibo la IA a día de hoy como un asistente que te puede ayudar en cosas sencillas que te pueden servir y enseñar en algunos casos, pero siempre, siempre…bajo tu aprobación.

Para que me podais entender, hace unos dias queria crear unas expresiones regulares con unas condiciones especiales, y chatgpt me dio unas soluciones. Las probé y funcionaba y ya tenia el tema resuelto pero dos temas a puntualizar.

•         Por una parte una vez comprobé que la propuesta era valida, tenia de saber porque era así, porque funcionaba, resultaba,… el porque. El tema no era aprender para hacer, sino hacer y aprender, como una ingeniería inversa
•         Como sabia que técnicamente eso no me produciría un agujero de seguridad? O como podía saber que no podría dar una inconsistencia a mi programa ?

Sabemos que la IA permitirá el análisis de diferentes modelos de datos y de grandes cantidades de información, pero… La IA contesta y se queda tan ancha

Ahora el gran paradigma es como enseñar a la IA de una empresa sobre algo en especial y que tipo de modelo de lenguaje como el LLM poder usar, y leo, me comentan , me explican,… que están obsesionados en volcar grandes cantidades de terabytes de info para que la IA pueda relacionar. Y aquí entra todo el tema del hacking, de la seguridad, de la inyección de los famosos prompts con fines inversos.

Me hacia gracia por un lado como se enseña a tu modelo que no pueda explicar, relacionar, usar, … cierto tipo de información y por otro lado como se  encuentra estos  “prompts” para confundir y que hagan lo que se les dice lo que no pueden hacer.

Ya se que le puedes decir que te muestre un pequeño código de html y te pinte unas cajitas de colores con unos controles…vale.  O una pequeña rutinita en  javascript, c, php que te haga un cierto cálculo….vale. Pero estos tipos de código, primero los habrás de probar, y como he dicho antes validar, aprender el porque e implementarlos. Pero una apreciación…He visto muchos churros de code ineficiente y mal hecho. (seguramente porque son los mas usados y chatgpt se alimenta de ellos y a la vez los  utiliza para proporcionar respuestas). Al final es preguntarse, ¿sabes los riesgos que corres al aplicar un algoritmo de chatgpt ? (seguridad, eficiencia, rendimiento,…).

Por supuesto no quiero crear polémica y simplemente expreso algo que de alguna manera me preocupa, por lo que estoy viendo en diferentes sites. Hay mucho por avanzar y veremos todos con asombro todas estas evoluciones, y tenemos de aceptar que no podemos de alguna manera usar algo que no sabemos aun como funciona, pero volviendo al inicio de este comentario, no me digas como respuesta algo que te dice el chatgpt si no lo has probado, yo también se lo puedo preguntar.