lunes, 14 de julio de 2008

Trabajos realizados

Alyuda neurofusion:
Es una librería sobre redes neuronales de propósito general, puede ser usada para crear, entrenar y aplicar construcción redes neuronales cuyo objetivo es resolver problemas de regresión y de clasificación. Esta escrita en ANSI C++ y compilada con visual C++ 6.0. Opera en cualquier entorno de desarrollo que soporte Windows DLLs. La edición .NET está escrita es C# y compilada usando Visual Studio 7.1, puede ser usada en cualquier entorno de desarrollo que soporte tecnología .NET. (Alyuda Research Inc., 2005).

Alyuda forecaster:
Es un software de redes neuronales para predicciones, análisis de datos y clasificación. Permite mejorar los pronósticos sobre el clima, usando tecnología de redes neuronales artificiales. Cuenta con análisis automático de datos y selección automática de parámetros. (Alyuda Research Inc., 2005).

Alyuda neurointelligence:
Software de redes neuronales para expertos, diseñado para resolver problemas de predicción, clasificación y aproximación del mundo real. Utiliza características inteligentes para preprocesar hojas de datos, analizar y aplicar la red neuronal a los nuevos datos. (Alyuda Research Inc., 2005).

Aspirin/migraines:
Consiste en un generador de código que construye simuladores de redes neuronales tras leer una descripción de la red (escrita en un lenguaje llamado "Aspirin") y general una simulación en C. Una interface permite exportar datos desde la red neuronal a herramientas visuales. Funciona en varias plataformas. (Gondar, 2001).

DartNet:
Simulador Backpropagation para Macintosh, desarrollado en Dartmouth por Jamshed Bharucha y Sean Bharucha como una herramienta pedagógica. Utiliza la interface gráfica de Macintosh, además proporciona herramientas para construir, editar, entrenar, probar y examinar redes. (Aranguren & Muzachiodi, 2002).


GENESIS (GEneral NEural SImulation System):
Es una plataforma de simulación desarrollada para soportar la simulación de sistemas neuronales desde complejos modelos de neuronas sencillas hasta simulaciones de grandes redes constituidas por componentes neuronales más abstractos. Ejecutable en la mayor parte de plataformas UNIX. (Aranguren & Muzachiodi, 2002).

Mactivation:
Simulador de redes neuronales artificiales para Apple Macintosh. (Aranguren & Muzachiodi, 2002).

MBP (Matrix Backpropagation):
MBP es una implementación muy eficiente del algoritmo de Backpropagation para estaciones de trabajo de generación reciente. El algoritmo incluye una técnica adaptativa por época para descenso gradiente. Todas las operaciones se realizan a través de multiplicaciones matriciales y utilizan código C altamente optimizado. (Aranguren & Muzachiodi, 2002)

MUME (Multi-Module Neural Computing Environment):
Es un simulador para computación neuronal multi-modular. Proporciona una herramienta orientada a objetos para la simulación y ejercitamiento de múltiples redes con varias arquitecturas y algoritmos de aprendizaje. MUME puede ser utilizado para simulaciones de redes neuronales de gran escala puesto que proporciona un soporte para aprendizaje en entornos multi-redes. Soporte para X Windows. Distribución libre para instituciones educativas tras enviar la licencia firmada. (Aranguren & Muzachiodi, 2002).

Neocognitron Simulator:
El simulador está escrito en C e incluye una lista de referencias que es necesario leer para entender las características de la implementación. (Artificial Intelligence Resources Center Network, 2005).

NeuDL (Neural-Network Description Language):
NeuDL es un lenguaje descriptivo para el diseño, ejercitamiento y operación de redes neuronales. Está actualmente limitado al algoritmo de Backpropagation. Sin embargo, ofrece una gran flexibilidad. NeuDL es un lenguaje parecido a C y a C++. El compilador está escrito en C++, con lo que nuevas instrucciones pueden ser añadidas. (Artificial Intelligence Resources Center Network, 2005).

NevProp (Nevada Backpropagation):
Es un programa gratuito y de fácil manejo para FeedForward Backpropagation (Perceptrón multicapa). Usa una interactiva interface y es distribuido como código C que debería poder compilarse y ejecutarse en cualquier plataforma. (Artificial Intelligence Resources Center Network, 2005).

PMNEURO 1.0a:
El objetivo de este software es crear redes neuronales artificiales de tipo Backpropagation; además los resultados de la propagación pueden ser usados como entradas para el ejercitamiento, esto con el fin de crear nuevas redes y continuar intentos de propagación. (Artificial Intelligence Resources Center Network, 2005).

PYGMALION:
Es un prototipo derivado de un proyecto llamado ESPRIT. Por otra parte, implementa el tipo de red neuronal Backpropagation, mapa auto organizado y redes Hopfield. (Artificial Intelligence Resources Center Network, 2005)

Rochester Connectionist Simulator:
Es un programa de simulación muy versátil para tipos arbitrarios de redes neuronales. Incluye un paquete de la red neuronal artificial tipo Backpropagation. (Artificial Intelligence Resources Center Network, 2005).


Trajan 2.1 Shareware:
Es un simulador para el sistema operativo Windows utilizado para redes neuronales. Este software incluye soporte para dos tipos de redes neuronales: perceptrón multicapa con Backpropagation y redes Kohonen. (Artificial Intelligence Resources Center Network, 2005).

MatLab (Matrix Laboratory):
Es un programa para el análisis numérico creado por la compañía The MathWorks. Este software cuenta con varias aplicaciones, como la adquisición de datos, economía, lógica difusa, inteligencia artificial, así como la creación de redes neuronales artificiales. (The MathWorks, 2007).

Historia

Con la intención de entender el cerebro humano, a principios del siglo XIX se iniciaron las primeras investigaciones en redes neuronales artificiales. Un dispositivo hidráulico descrito por Russell fue la primera implementación de redes neuronales artificiales. Debido al trabajo de varios científicos y de los avances del hardware, en la década de los 40, en el siglo XX, el estudio de las redes neuronales artificiales cobró una fuerza que se ha incrementado hasta la actualidad.
El primer modelo matemático de redes neuronales, fue realizado por Warren McCulloch y Walter Pitts. Este modelo se basa en la idea de que las neuronas funcionan a base de impulsos binarios. Si bien el modelo generó gran interés, ya que su factor clave está en la capacidad de aprendizaje. Su trabajo es conocido como el origen del campo de las redes neuronales artificiales, el cual fue realizado en 1943. Este trabajo fue ampliamente leído en ese tiempo y hasta el día de hoy.
Posteriormente, Donald Hebb desarrolló un procedimiento matemático de aprendizaje competitivo, el cual lo describió él mismo en su libro titulado Organization of Behavior [Hebb, 1949]. En este procedimiento la red tiene una capa de neuronas de entrada y una capa de neuronas de salida. Los valores binarios (0 ó 1) son usados con más frecuencia en los nodos de salida. Esto significa que hay tantas neuronas de salida como número de clases, a su vez que cada nodo de salida representa una categoría de patrones. El procedimiento tiene el objetivo de seleccionar un ganador, es por esto que cuando una neurona participa constantemente en activar una neurona de salida, la influencia de la neurona de entrada es aumentada. A la neurona de salida que proporciona el valor más alto le es asignado el valor total (podría ser 1), por el contrario a las demás se les asigna el valor 0 (Bencomo, Díaz, Díaz, & Martínez, 2001). Éste paradigma de aprendizaje ahora lleva su nombre, aprendizaje hebbiano (Isasi Viñuela & Galván León, 2004).
Marvin Minsky obtuvo los primeros resultados prácticos en redes neuronales en 1945. Minsky y Edmons diseñaron una máquina con 40 neuronas en donde las conexiones se ajustaban con una serie de eventos que ocurrían al realizar ciertas actividades. La máquina fue construida con tubos, motores y relés y fue capaz de modelar el comportamiento de una rata buscando comida en un laberinto.
Poco después, Frank Rosenblatt extendió el modelo de McCulloch y Pitts añadiendo aprendizaje y así el modelo fue llamado el Perceptrón. Desarrolló un modelo de dos niveles, donde los pesos de las conexiones se ajustaban entre los niveles de entrada y la salida obtenida.
Bernard Widrow diseñó una red neuronal artificial similar al Perceptrón y la llamó Adaptative Linear Element o ADALINE. Esta red ajusta los pesos entre los niveles de entrada y salida en función del error entre el valor de salida esperado y el obtenido. En 1960, Widrow junto con Marcian Hoff probaron matemáticamente que en ciertas circunstancias el error entre la salida deseada y la obtenida puede ser minimizado hasta el límite que queramos. El ADALINE ha sido utilizado para procesamiento adaptativo de señales, sistemas de control y sistemas adaptativos de antenas.
Uno de los primeros investigadores en desarrollo de métodos de codificación de información en redes de neuronas, fue Steinbuch. Las redes se aplicaron al reconocimiento de escritura a mano, mecanismos de diagnóstico de fallos de maquinarias y control de múltiples procesos en producción.
El más influyente e informal de todos los investigadores fue Stephen Grossberg, quien realizó importantes estudios sobre procesos y fenómenos psicológicos y biológicos de procesamiento humano de la información. Sus trabajos incluyen estrictos análisis matemáticos, que permitieron la realización de nuevos paradigmas de redes de neuronas.
Grossberg formó un grupo de investigación en la universidad de de Boston. Con este grupo, investigó todas las facetas del procesamiento de información por parte de los humanos. Estas investigaciones cubren todo el aspecto de las redes neuronales artificiales.
Shun-Ichi Amari combinó la actividad de las redes neuronales biológicas con modelos matemáticos de redes neuronales artificiales. Un ejemplo de estos es una solución al problema de la asignación de créditos.
James Anderson, realizó un modelo de memoria asociativa lineal siguiendo el planteamiento de Hebb, el cual se basa en que las conexiones entre neuronas son reforzadas cada vez que son activadas. El nuevo método de Anderson consistía en elementos integradores o neuronas, que sumaban sus entradas, desarrollando un nuevo modelo llamado Brain-state-in-a-box en 1977. Entre las aplicaciones de este modelo se encuentran la extracción de conocimiento de bases de datos.
Los primeros en descubrir la relación entre los hologramas[1] y las memorias asociativas, fueron los investigadores del Departamento de Máquinas Inteligentes de la Universidad de Edimburgo en 1968. Los dos mecanismos son capaces de obtener un patrón a partir de pocas pistas. Longuet y Higgins crearon un sistema de ecuaciones codificadas para almacenar y recuperar una secuencia de señales. Años más tarde, Willhaw y Buneman junto con Longuet y Higgins, introdujeron los principios holográficos, como un posible mecanismo en los procesos de memoria humanos. De este trabajo surgió un modelo temporal de red neuronal artificial llamado HOLPHONE, paradigma que almacena señales de entrada y puede obtener una señal completa, partiendo únicamente de una parte de ella.
A finales de los 60, Kunihiko Fukushima empezó a trabajar sobre redes de neuronas artificiales, estudiando modelos espaciales y espacio-temporales para sistemas de visión y el cerebro.
A. Harry Kolpf estudió las relaciones entre la psicología de la mente y la biología del cerebro. Realizó una teoría donde menciona que la neurona es un sistema adaptativo, el cual aumenta la eficacia de sus sinapsis excitadoras cuando se despolariza[2] y aumenta la eficacia de sus sinapsis inhibidoras cuando se hiperpolariza[3].
Teuvo Kohonen, sus trabajos se centraron en memorias asociativas y matrices de correlación, de manera semejante a los trabajos de Anderson. Tiempo después, Kohone extendió el modelo de memoria asociativa lineal, en uno que buscaba las óptimas entre vectores linealmente independientes, llamado Asociador Óptimo de Memoria Lineal (OLAM).
A principios de los 70, Leon Cooper y su colega Charles Elbaum comenzaron a trabajar en redes neuronales artificiales. Crearon un grupo llamado Nestor Associates, para el desarrollo de la patente y la comercialización de redes neuronales artificiales. Este grupo tuvo mucho éxito en el desarrollo comercial de ciertos sistemas de red neuronal, por ejemplo la red RCE (Reduced Coulom Energy). (Galvan, 2004, p. 21).
Los modelos matemáticos y biológicos fueron investigados por Terence Sejnowski. Junto con Geoff Hinton descubrieron el algoritmo de la máquina de Boltzmann, la cual reconocía un algoritmo de aprendizaje para una red de tres niveles. Sus más recientes contribuciones han sido a la aplicación del algoritmo de retropropagación, en especial el reconocimiento de voz.
Por otra parte, los psicólogos McClelland y Rumelhart han realizado investigaciones a cerca de los modelos de redes de neuronas artificiales para ayudar a comprender las funciones psicológicas de la mente. Tiempo después integraron sus esfuerzos para realizar un paradigma de reconocimiento de voz llamado Interactive Activation Model. Posteriormente seguidos por otros investigadores interesados, nació el grupo PDP (Parallel Distributed Processing) (Galvan, 2004, p. 24). En 1986 el grupo de investigadores publicó un libro en dos volúmenes titulado Parallel Distributed Processing: Exploration in the Microstructure of Cognition. Los autores más destacados de este libro son, McClelland, Rumelhart, Hinton, Zipser, Smolensky, Sejnowsky, Williams, Jordan, Stone, Rabin, Elman, Kawamoto, Crick, Asanuma, Munro.
El principal diseñador de uno de los primeros computadores personales fue Robert Hecht-Nielsen. Este computador fue dedicado al procesamiento de paradigmas en redes neuronales. TRW MARK III, es el nombre del neurocomputador, el cual estuvo disponible a la venta en 1986. (Nelson & Illingworth, 1994).
Un método de análisis del estado estable en una red asociativa fue descrito en 1982 por John Hopfield (Nelson & Illingworth, 1994). Con este método Hopfield demuestra que se puede construir una ecuación de energía que describe la actividad de una red neuronal de una capa en tiempo discreto, que esta ecuación de energía puede ir disipándose y que a un valor mínimo local el sistema puede converger.
[1] Holograma: Imagen tridimensional creada por proyección fotográfica.
[2] Despolarizar: Tendencia a excitar la generación de los pulsos de la neurona receptora.
[3] Hiperpolarizar: Tendencia a inhibir la generación de los pulsos en la neurona receptora.

martes, 8 de julio de 2008

Presentacion

Hola amigos, disculpen sino doy mi nombre creo que eso es lo de menos, lo importante aquí es compartir información para todas aquellas personas que deseen saber sobre redes neuronales.
Por ahí encontré un documento de tesis y la verdas es que me pareció interesante, muy bien por aquellas personas que lo realizaron. No pienso publicar todo el documento, solo lo que considero importante, pero creo que lo hicieron les basto para conseguir sust títulos, como sea la información es lo que cuenta y creo que debe ser compartida con la comunidad.