Caí en una madriguera de conejo menos equivocada después de releer 'Cómo se ve el fracaso' de Paul Christiano (surgió en la curva y estoy luchando por entender los escenarios de 'pérdida de control') y hombre, todo el asunto de la teoría de la decisión se topa instantáneamente con el problema de detención de inmediato
Determinar si un programa dado generará un símbolo particular para entradas particulares es semidecidible y, por lo tanto, equivalente al problema de detención. Cualquier teoría de decisión basada en "leer el código fuente del otro agente" se desmorona debido a este hecho.
de hecho, cualquier teoría de decisión *reflexiva* se desmorona debido a este hecho. TDT et. al. solo funcionan en situaciones en las que los agentes no están completos. no muy útil.
Sin embargo, la incertidumbre lógica se sostiene bastante bien
@azsantosk en realidad aquí hay una toma salvaje y sin fundamento; Agregar probabilidad nos lleva de un entorno discreto a uno continuo y eso es lo que elimina la indecidibilidad
Ese sería un teorema tan hermoso
@azsantosk por lo tanto, o estamos por encima o por debajo de Turing
@azsantosk o omega tiene hipercomputación (es un mago) o nuestros agentes no son muy interesantes
@azsantosk ciertamente, entonces no soy capaz de automodificarme y muchas otras cosas presupuestas por las diversas teorías de decisión en un punto com menos incorrecto
8.31 K
22
El contenido al que estás accediendo se ofrece por terceros. A menos que se indique lo contrario, OKX no es autor de la información y no reclama ningún derecho de autor sobre los materiales. El contenido solo se proporciona con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo enlazado para más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. Los holdings de activos digitales, incluidos stablecoins y NFT, suponen un alto nivel de riesgo y pueden fluctuar mucho. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti según tu situación financiera.